A medida que la llegada de la inteligencia artificial generativa genera preocupaciones en materia de seguridad, una nueva empresa emergente que desarrolla sistemas de IA seguros ha recaudado mil millones de dólares.
Safe Superintelligence (SSI), cofundada por el cofundador de OpenAI y ex científico jefe Ilya Sutskever, ha recaudado mil millones de dólares en efectivo. Los fondos se utilizarán para potencia informática y para contratar investigadores e ingenieros. Los ejecutivos dijeron a Reuters.
La startup se centrará en construir “superinteligencia segura” o sistemas de IA seguros que tengan un razonamiento a nivel humano y superior.
“SSI es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único enfoque”, escribieron los cofundadores en un carta pública“Nuestro enfoque singular significa que no habrá distracciones por gastos generales de gestión ni por ciclos de productos, y nuestro modelo de negocios significa que la seguridad, la protección y el progreso están todos aislados de las presiones comerciales de corto plazo”.
Tras su ronda de financiación, que contó con pesos pesados como Andreessen Horowitz y Sequoia Capital como inversores, la startup está valorada en 5.000 millones de dólares, informó Reuters, citando a personas anónimas familiarizadas con el asunto. SSI se negó a compartir su valoración con Reuters.
“Para nosotros es importante estar rodeados de inversores que entiendan, respeten y apoyen nuestra misión, que es dar el paso directo hacia la superinteligencia segura y, en particular, dedicar un par de años a investigar y desarrollar nuestro producto antes de lanzarlo al mercado”, dijo Gross a Reuters.
Sutskever cofundó la startup de 10 personas en junio con Daniel Gross, exdirector de IA en Apple, y Daniel Levy, exinvestigador de OpenAI. Gross es director ejecutivo de la startup de IA segura y Levy es el científico principal, con Sutskever como científico jefe.
Sutskever dejó OpenAI en mayo después de casi un año liderando el equipo de “superalineación” de la startup, que estaba centrado en los peligros existenciales de la IA. El equipo fue disuelto después de que Sutskever y su codirector, Jan Leike, renunciaran al creador de ChatGPT. Sutskever, que formó parte de OpenAI durante casi una década, jugó un papel en la breve destitución del director ejecutivo de OpenAI, Sam Altman, en noviembre.
“Hemos identificado una nueva montaña que escalar que es un poco diferente de lo que estaba trabajando anteriormente”, dijo Sutskever en una declaración compartida con Quartz. “No estamos tratando de recorrer el mismo camino más rápido. Si haces algo diferente, entonces se vuelve posible para ti hacer algo especial”.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.