Menos de dos semanas después de dejar OpenAI, uno de los antiguos líderes de seguridad de inteligencia artificial de la compañía anunció que ha aterrizado en uno de sus rivales. .
Jan Leike, quien codirigió OpenAI ahora disuelto “equipo de superalineación””, que era responsable de los peligros existenciales de AI, renunció a la compañía a principios de este mes. El martes, Leike dijo en X que estaba “emocionado” de unirse a la empresa de IA Anthropic “para continuar con la misión de superalineación”. Agregó que su nuevo equipo “trabajará en una supervisión escalable, una generalización de débil a fuerte y una investigación de alineación”.
Anthropic, que recientemente consiguió un Amazon invierte 4.000 millones de dólares, dijo su última familia de modelos de IA lanzada en marzo, Claude 3, superó al GPT-4 de OpenAI.
La empresa fue fundada por Daniela y Dario Amodei, antiguos empleados de OpenAI, en 2021 para desarrollar chatbots “más seguros”. Los hermanos Amodei le dio una puñalada a OpenAI A principios de este mes, dijo en la Cumbre de Tecnología de Bloomberg que su modelo Claude 3 Opus “es el modelo de IA más capaz y potente disponible en cualquier lugar. en el mundo”.
Leike anunció su partida de OpenAI después de su codirector, Ilya Sutskever, quien también cofundó la compañía y fue su científico jefe, dijo que era Leike calificó su decisión de irse como “una de las cosas más difíciles que he hecho jamás, porque necesitamos urgentemente descubrir cómo para dirigir y controlar sistemas de IA mucho más inteligente que nosotros”.
Leike escribió que se unió a OpenAI porque pensó que la empresa “sería el mejor lugar del mundo para realizar esta investigación”, pero que había “estado en desacuerdo con el liderazgo de OpenAI sobre las prioridades centrales de la compañía durante bastante tiempo, hasta que finalmente llegamos a un punto de ruptura .” Continuó escribiendo que OpenAI debería priorizar la seguridad a medida que busca la inteligencia general artificial, o AGI.
OpenAI según se informa no cumplió sus compromisos con el equipo de Superalineación que anunció en julio pasado. Las solicitudes de acceso del equipo a las GPU o unidades de procesamiento de gráficos fueron rechazadas repetidamente y nunca estuvo cerca de recibir su prometido presupuesto de energía informática del 20%, Fortuna reportada, citando fuentes familiarizadas con el tema.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.