El director ejecutivo de Salesforce $CRM, Marc Benioff, ha pedido más regulación de la inteligencia artificial después de una serie de casos en los que la tecnología se vinculó con personas que se quitaron la vida.
“Este año, realmente viste algo bastante horrendo, que estos modelos de IA se convirtieron en entrenadores de suicidio", dijo Benioff, hablando en el Foro Económico Mundial en Davos el martes. “Cosas malas estaban sucediendo en todo el mundo porque las redes sociales estaban completamente desreguladas. Ahora estás viendo eso de nuevo con la inteligencia artificial.”
En medio de la falta de reglas claras que rijan las empresas de IA en EE. UU., estados individuales como California y Nueva York han comenzado a redactar sus propias leyes. Mientras tanto, el presidente Donald Trump ha intentado prohibir esos esfuerzos mediante orden ejecutiva.
“Debe haber un solo libro de reglas si vamos a seguir liderando en IA”, dijo el presidente en diciembre. Agregó que el liderazgo de EE. UU. en el desarrollo de la tecnología “no durará mucho” si hay 50 conjuntos diferentes de reglas de IA en vigor. Empresas como OpenAI han argumentado que maniobrar a través de diferentes reglas de IA está dañando la competitividad del sector.
Benioff’s la declaración se produce después de las acusaciones del año pasado por parte de una familia de California de que ChatGPT desempeñó un papel en la muerte de su hijo. El demanda, presentada en agosto de 2025 por Matt y Maria Raine, acusa a OpenAI y a su director ejecutivo, Sam Altman, de negligencia y muerte por negligencia. Su hijo, Adam, murió en abril, después de lo que su abogado, Jay Edelson, llamó “meses de estímulo de ChatGPT.”
[Nota del editor: La línea nacional de prevención del suicidio y crisis está disponible llamando o enviando un mensaje de texto al 988, o visitando 988lifeline.org.]
Benioff también arremetió contra una ley llamada Sección 230 de la Ley de Decencia en las Comunicaciones, que fue aprobada en 1996 para proteger a los moderadores web de ser regulados y hace a los usuarios individuales, en lugar de las plataformas, responsables del contenido. A pesar de los vastos cambios en el panorama en línea desde entonces, la ley aún se aplica. Los gigantes tecnológicos como Meta $META han utilizado la Sección 230 como defensa al enfrentar problemas de daño a los usuarios en la corte.
“Es gracioso, a las empresas tecnológicas no les gusta la regulación. No les gusta excepto por una. Les encanta la Sección 230, que básicamente dice que no son responsables”, dijo Benioff. “Así que si este modelo de lenguaje grande guía a este niño al suicidio, no son responsables debido a la Sección 230. Eso es probablemente algo que necesita ser reformado, modificado, cambiado.”
Añadió: “¿Qué es más importante para nosotros, el crecimiento o nuestros hijos? ¿Qué es más importante para nosotros, el crecimiento o nuestras familias? ¿O qué es más importante, el crecimiento o los valores fundamentales de nuestra sociedad?”
“Hay muchas familias que desafortunadamente han sufrido este año y no creo que tuvieran que hacerlo”, dijo Benioff.