El cofundador John Schulman trabajará en la alineación de la IA en Anthropic
Menos de un día después de que un cofundador de OpenAI presentó una demanda En contra de la startup y los principales ejecutivos, su presidente anunció un año sabático de un mes y el cofundador John Schulman reveló que se uniría a su rival. inteligencia artificial Firme Antrópica.
Además de ayudar a lanzar la startup respaldada por Microsoft $MSFT, Shulman dirigió el equipo de capacitación posterior de OpenAI, que afinó los modelos utilizados para impulsar el chatbot de IA ChatGPT. En junio, Shulman fue fijado a un comité de seguridad y protección diseñado para asesorar a la junta directiva sobre decisiones críticas de seguridad y protección.
“Esta elección surge de mi deseo de profundizar mi enfoque en la alineación de la IA y comenzar un nuevo capítulo de mi carrera en el que pueda volver al trabajo técnico práctico”, escribió Schulman en un correo en X $TWTR, anteriormente Twitter, el lunes por la noche. “Para ser claro, no me voy a ir por falta de apoyo para la investigación de alineación en OpenAI”, agregó.
A principios de este año, OpenAI disuelto Su equipo de “Superalineación”, que se centraba en controlar los sistemas de IA y garantizar que la IA avanzada no representara un problema. peligro a la humanidad. Uno de los líderes del equipo, Jan Leike, se unió a Anthropic poco después de que su grupo fuera desmantelado. Ilya Sutskever, otro líder de Superalignment y cofundador de OpenAI, comenzó su propia empresa, Superinteligencia segura. Otro cofundador, Andrej Karpathy, también ha abandonado la empresa.
Anthropic fue lanzado en 2021 por ex ingenieros de OpenAI y hermanos Daniela y Dario Amodei, quien abandonó esa startup Preocupaciones de que estaba ampliando su tecnología demasiado rápido — y sin las garantías adecuadas. A ellos se unieron al menos nueve otros empleados de OpenAI.
El anuncio de Schulman fue recibido con aprecio por su tiempo en OpenAI; CEO Sam Altman escribió en X que la perspectiva de Schulman sobre el futuro de la IA ayudó a informar la estrategia de la empresa. "¡Estoy muy emocionado de trabajar juntos nuevamente!" escribió Leike En una respuesta a Schulman.
Presidente de OpenAI Greg Brockman El lunes anunció que se tomaría un año sabático de la empresa hasta fines de 2024 y escribió en X que sería su “primera vez de relajarse desde que cofundó OpenAI hace 9 años”. Los movimientos de ambos ejecutivos, así como la salida del líder de productos Peter Deng, fueron reportado por primera vez por The Information.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
