A los inversores y expertos de la industria les preocupa desde hace tiempo que la industria de la inteligencia artificial expandirse hasta la ruptura inevitable. La industria de la inteligencia artificial se enfrenta a una intensa presión de todas partes después de un histórico ciclo electoral de mitad de período que planteó claros desafíos a los intereses de las grandes empresas tecnológicas.
El ex director ejecutivo de Nvidia, Jen-Hsun Huang, una figura destacada en la moda de la inteligencia artificial, fue derrocado por un escándalo lascivo que involucra relaciones extramatrimoniales y acusaciones de espionaje chino. El propietario de SpaceXSI, Elon Musk, invirtió y perdió millones en campañas republicanas durante las elecciones de mitad de período, que él y otros grandes líderes tecnológicos esperan que abran las compuertas para una mayor infraestructura de inteligencia artificial. Además de la crisis nacional de salud mental, OpenAI y Anthropic se han visto envueltos en múltiples escándalos de ciberseguridad. ChatGPT de Google, Meta y OpenAI está en el centro del pensamiento sobre la seguridad infantil que podría cambiar la educación y las redes sociales para siempre.
¿Está realmente aquí la informática con IA?
Los agentes de IA pueden administrar su hogar. ¿Qué podría salir mal?
Una nueva ronda de demandas radicales contra la industria de la inteligencia artificial
El último desafío que enfrenta la industria es una demanda presentada hoy (12 de noviembre) por grupos de seguridad y de la sociedad civil Public Citizen, Irreplaceable Education Fund, Heat Initiative y The Alliance for Secure AI. Los grupos argumentan que los desarrolladores de IA son conscientes de los "riesgos catastróficos inminentes" que la IA representa para la humanidad y están instando a los tribunales a congelar por completo el desarrollo de la industria en nombre de la seguridad pública.
"A pesar de las constantes advertencias de que sus productos plantean graves riesgos para la seguridad pública e incluso para la propia civilización, los ejecutivos de las empresas de IA todavía están luchando por desarrollar e implementar sistemas de IA más avanzados", escribió Robert Weissman, copresidente de Public Citizen, en un comunicado de prensa. "Nosotros, el pueblo, no deberíamos quedarnos impasibles y tolerar el comportamiento demencial y arriesgado de los ejecutivos de IA a expensas del interés público. Nuestra demanda pide al tribunal que aplique la ley existente, determine que las prácticas imprudentes de las empresas de IA son ilegales y congele un mayor desarrollo de la IA".
Las acciones de Nvidia se desploman después de la renuncia del CEO Jensen Huang: qué tan bajo podrían llegar
El grupo argumentó que las empresas estaban arriesgando la seguridad pública al desarrollar y lanzar productos que reconocían que eran potencialmente dañinos, y que un mayor desarrollo podría detenerse bajo las leyes de competencia desleal de California.
Las mejores ofertas tecnológicas de la semana
Apple iPhone 18 Pro ahora disponible gratis a través de T-Mobile
Los productos se pueden comprar a través de enlaces de afiliados. Mashable puede ganar una comisión de afiliado si compra algo a través de enlaces en nuestro sitio.
Mezcla y combina la velocidad de la luz
El director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, coincidieron anteriormente en la necesidad de frenar el crecimiento de sistemas de inteligencia artificial altamente avanzados. En un artículo de septiembre, Amodei presentó un plan de tres puntos para "liderar la frontera de la inteligencia artificial", al que Altman luego expresó su apoyo.
"Los niños ya están pagando el precio de las grandes empresas tecnológicas que anteponen las ganancias a la seguridad. Hemos visto chatbots que llevan a los niños al suicidio y herramientas de inteligencia artificial que convierten fotos comunes de ellos en material de abuso sexual infantil generado por inteligencia artificial", dijo Brooke Istook, directora ejecutiva del grupo de defensa de los niños Heat Initiative. "Ahora estas empresas están compitiendo para construir sistemas de inteligencia artificial sobre los que reconocen que tal vez no tengan control. Si eso sucede, las protecciones por las que hemos luchado durante años no serán suficientes".
Padres se unen para protestar y exigir acción
Algunos creen que el próximo Congreso Demócrata podría finalmente dejar a las empresas tecnológicas en problemas. Coincidiendo con la demanda, docenas de defensores de los padres sobrevivientes enviaron una carta al Fiscal General de California, Rob Bonta, y a la Fiscal General de Delaware, Kathy Jennings, instándolos a obligar a OpenAI a reorganizar su estructura corporativa y su membresía en la junta directiva para respaldar mejor el despliegue seguro de la IA. El grupo cree que los dos estados que lideran una investigación conjunta sobre la reciente reorganización de OpenAI podrían Obligar a las empresas de IA a adoptar medidas de seguridad más estrictas.
Mientras la industria debate la regulación adecuada y los tribunales reflexionan sobre la autoridad del sistema legal sobre la inteligencia artificial, las escuelas se están convirtiendo en sus propios campos de batalla.
En la primera demanda de este tipo relacionada con la educación, una familia argumentó que el uso de inteligencia artificial por parte de su hijo en un Chromebook proporcionado por la escuela planteaba riesgos mortales para su salud mental.
Luego, el 11 de noviembre, una coalición de grupos escolares y de seguridad infantil provocó protestas a nivel nacional por la nueva política de Google para las escuelas, lo que generó controversia. En una declaración hace una semana, Google anunció que sus herramientas de inteligencia artificial ahora serían habilitadas de forma predeterminada, incluidas sus búsquedas impulsadas por inteligencia artificial. Dado que las herramientas de IA de búsqueda no se pueden desactivar, las áreas que prohíben la IA se verán obligadas a elegir entre permitir búsquedas o violar las pautas de IA.
Los partidarios ven el "ultimátum" de Google como una oportunidad para obligar al gigante tecnológico a abandonar algunos de sus objetivos de largo alcance en materia de inteligencia artificial. Muchos instan a los distritos a cancelar los contratos con la empresa y encontrar alternativas libres de IA.