Sam Altman le dice a Oprah que quiere que el gobierno realice pruebas de seguridad de la IA como lo hace con los aviones y los medicamentos

Imágenes Getty

El director de OpenAI, Sam Altman, pidió más pruebas de inteligencia artificial en una entrevista con Oprah para su nuevo especial de televisión, “AI and the Future of Us”, que se emitió el jueves por la noche.Altman, quien cofundó y dirige la empresa emergente de inteligencia artificial detrás del popular chatbot de inteligencia artificial generativa ChatGPT, dijo que el siguiente paso es que el gobierno Empezar a realizar pruebas de seguridad

de la nueva tecnología que avanza rápidamente.

“Una de las primeras cosas que debemos hacer —y esto está sucediendo ahora— es lograr que el gobierno comience a determinar cómo realizar pruebas de seguridad de estos sistemas, como lo hacemos con los aviones o los nuevos medicamentos”, dijo.

“Yo personalmente, probablemente tengo una conversación con alguien del gobierno cada pocos días”, añadió.Esto contrasta con la posición interna de Altman y OpenAI sobre las restricciones a la innovación. En mayo, la empresa disolvió su equipo “Superalignment”, que era responsable de trabajar en el problema de los peligros existenciales de la IA. La compañía dijo que el trabajo del equipo sería absorbido por otros esfuerzos de investigación en OpenAI. Los críticos, incluidos ex empleados, han advertido que la compañía y sus ambiciones

plantean “graves riesgos”.

En última instancia, OpenAI espera alcanzar lo que se conoce como inteligencia general artificial o AGI, una visión futurista de máquinas que pueden hacer prácticamente cualquier cosa tan bien como los humanos.El especial, que también incluyó entrevistas con otros expertos, entre ellos Microsoft (MSFT) el fundador Bill Gates y el director del FBI Christopher Wray. Ahora está disponible para transmitir en Hulu (DIS

).OpenAI está actualmente en conversaciones para recaudar 6.500 millones de dólares de inversores en una nueva ronda de financiación que valoraría la startup en 150.000 millones de dólares, según Bloomberg. reportado. Un acuerdo que permite a los empleados vender participaciones en la empresa valorada en OpenAI en $86 mil millones

a finales de 2023, casi el triple de lo que era a principios de año. Esta última ronda de financiación sería su mayor recaudación desde que recibió 10 mil millones de dólares en respaldo de Microsoft en enero de 2023 y, según se informa, también podría Incluye financiación de Apple y Nvidia

.

Por su parte, Oprah destacó la importancia de prestar atención a la nueva tecnología y adaptarse a ella según sea necesario, dado que la IA, aunque todavía está en sus primeras etapas, probablemente llegó para quedarse.

“La IA aún está fuera de nuestro control y, en gran medida, de nuestra comprensión”, dijo en comentarios preparados al comienzo del especial. “Pero está aquí y vamos a vivir con una tecnología que puede ser tanto nuestra aliada como nuestra rival”.

“Somos las criaturas más adaptables de este planeta”, añadió. “Nos adaptaremos de nuevo, pero no perdamos de vista lo real. Lo que está en juego no podría ser mayor”.En una entrevista anterior con el Washington PostWinfrey dijo que ella No había usado IA hasta que me senté con Altman

Sin embargo, después de la entrevista, comenzó a “usarlo para todo”.

Pero la estrella de televisión también expresó sus preocupaciones sobre los peligros de la tecnología, incluido su uso para generar desinformación y deepfakes.

“No tengo mucha fe”, dijo, en lo que respecta a la regulación de la IA. “Todo el mundo se da cuenta de que es necesario regularla. Todo el mundo se da cuenta de eso”.

“Mi temor es que, al igual que con los automóviles y otras tecnologías que nos han hecho avanzar, se pueda causar mucho daño, afectar negativamente a muchas vidas antes de que la gente se despierte y realmente decida: ‘Oh, necesitamos un cinturón de seguridad en esta cosa. Necesitamos límites de velocidad’", dijo.