california

California adelanta proyectos de ley para prevenir “daños catastróficos” por la inteligencia artificial

La propuesta, respaldada por algunos de los investigadores de inteligencia artificial más renombrados, también crearía una nueva agencia estatal para supervisar a los desarrolladores y brindar mejores prácticas.

Shutterstock

SACRAMENTO, California - Los legisladores de California votaron el martes a favor de promover una legislación que requeriría que las compañías de inteligencia artificial prueben sus sistemas y agreguen medidas de seguridad para evitar que sean potencialmente manipulados para destruir la red eléctrica del estado o ayudar a construir armas químicas.

Según los expertos, esos escenarios podrían ser posibles en el futuro a medida que la tecnología evoluciona a gran velocidad.

El primer proyecto de ley de su tipo tiene como objetivo reducir los riesgos creados por la inteligencia artificial. Las empresas de capital de riesgo y las tecnológicas, incluida Meta, matriz de Facebook e Instagram, y Google, se oponen ferozmente a ello. Dicen que las regulaciones apuntan a los desarrolladores y, en cambio, deberían centrarse en aquellos que usan y explotan los sistemas de inteligencia artificial para causar daño.

El senador estatal demócrata Scott Wiener, autor del proyecto de ley, dijo que la propuesta proporcionaría estándares de seguridad razonables al prevenir "daños catastróficos" de modelos de inteligencia artificial extremadamente poderosos que puedan crearse en el futuro.

Los requisitos sólo se aplicarían a sistemas cuyo entrenamiento cueste más de $100 millones en potencia informática. Ningún modelo de inteligencia artificial actual había alcanzado ese umbral hasta julio.

Wiener criticó duramente la campaña de los opositores al proyecto de ley en una audiencia legislativa el martes, diciendo que difundió información inexacta sobre su medida. Su proyecto de ley no crea nuevos cargos criminales para los desarrolladores de inteligencia artificial cuyos modelos fueron explotados para crear daño social si hubieran probado sus sistemas y tomado medidas para mitigar los riesgos, dijo Wiener.

"Este proyecto de ley no enviará a prisión a ningún desarrollador de inteligencia artificial. Le pediría a la gente que dejara de hacer esa afirmación", indicó Wiener.

Según el proyecto de ley, sólo el fiscal general del estado podría emprender acciones legales en caso de violaciones.

El gobernador demócrata Gavin Newsom ha promocionado a California como uno de los primeros en adoptar y regular la inteligencia artificial.

Newsom ha dicho que el estado pronto podría implementar herramientas de inteligencia artificial generativa para abordar la congestión de las carreteras, hacerlas más seguras y brindar orientación fiscal. Al mismo tiempo, su administración está considerando nuevas reglas contra la discriminación por inteligencia artificial en las prácticas de contratación. Se negó a comentar sobre el proyecto de ley, pero advirtió que una regulación excesiva podría poner al estado en una "posición peligrosa".

Una creciente coalición de empresas argumenta que los requisitos disuadirían a las compañías de desarrollar grandes sistemas de inteligencia artificial o mantener su tecnología de código abierto.

"El proyecto de ley hará que el ecosistema de inteligencia artificial sea menos seguro, pondrá en peligro los modelos de código abierto en los que confían las nuevas empresas y las pequeñas empresas, dependerá de estándares que no existen e introducirá una fragmentación regulatoria", escribió Rob Sherman, vicepresidente de Meta y director adjunto de privacidad, en una carta enviada a los legisladores.

Los opositores quieren esperar más orientación del gobierno federal. Los defensores del proyecto de ley dijeron que California no puede esperar, citando duras lecciones que aprendieron al no actuar lo suficientemente pronto para dominar las empresas de redes sociales.

La propuesta, respaldada por algunos de los investigadores de inteligencia artificial más renombrados, también crearía una nueva agencia estatal para supervisar a los desarrolladores y brindar mejores prácticas.

Los legisladores estatales también estaban considerando el martes dos medidas ambiciosas para proteger aún más a los californianos de los posibles daños de la inteligencia artificial. Se lucharía contra la discriminación por automatización cuando las empresas utilicen modelos de inteligencia artificial para evaluar currículos laborales y solicitudes de alquiler de apartamentos. La otra prohibiría a las empresas de redes sociales recopilar y vender datos de personas menores de 18 años sin su consentimiento o el de sus tutores.

Contáctanos