En marzo de 2024, un senador brasileño viajó en un vuelo comercial a Washington, EE. UU. Marcos Pontes, el ex astronauta de 61 años, se había convertido en una figura central en los esfuerzos por regular la inteligencia artificial en Brasil, donde un proyecto de ley proponía importantes restricciones a la tecnología en desarrollo. Seguro de sí mismo y de gran elocuencia, el ex Ministro de Ciencia, Tecnología e Innovación se consideraba excepcionalmente calificado entre sus colegas para comprender las complejas cuestiones que rodean a la IA.
Pontes había trabajado anteriormente para la NASA, asistió a la Escuela de Postgrado Naval en California y era menos escéptico que muchos otros senadores sobre las grandes empresas estadounidenses que dominan la carrera de la IA. «No podemos restringir la tecnología», dijo durante una de las primeras audiencias sobre el proyecto de ley de IA, expresando cautela sobre legislar sobre herramientas que aún están en desarrollo.
Con él viajó a Washington el senador Laércio Oliveira, otro conservador que formó parte del comité encargado de redactar el proyecto de ley de IA. Ambos formaban parte de una delegación organizada por una iniciativa del Congreso que interactúa con el sector privado. Su objetivo: celebrar una serie de reuniones sobre el proyecto de ley con representantes del gobierno estadounidense y empresas de Silicon Valley.
El proyecto fue uno de los más completos realizados hasta la fecha en el Sur Global. Propuso la creación de un nuevo organismo regulador para supervisar la IA, protecciones de derechos de autor para el contenido utilizado para entrenar a la IA y protecciones para los derechos individuales, con controles antidiscriminación en los sistemas biométricos y el derecho a impugnar decisiones de la IA con un impacto humano significativo.
El proyecto de ley prohibiría las armas y herramientas autónomas que pudieran facilitar la creación y distribución de pornografía infantil, e implementaría una supervisión más estricta sobre los algoritmos de las redes sociales que puedan amplificar la desinformación. Los defensores mundiales de la regulación de la IA vieron a Brasil como un modelo potencial para otros países. Pero Pontes creía que el proyecto podría obstaculizar la inversión y la innovación, y lo consideraba, como explicó más tarde a 'Rest of World', «basado en el miedo».
Pontes no nombró a los estadounidenses con los que se reunió, pero publicaciones en las redes sociales mostraron que la delegación visitó a miembros del gobierno de Estados Unidos, personal de grupos de expertos y ejecutivos de tres importantes empresas de inteligencia artificial: 'Amazon', 'Google' y 'Microsoft'. Pontes dice que el proyecto de ley fue el foco de las discusiones. «Les pedimos que revisaran nuestra legislación», dice, «y que nos dieran su opinión, que nos dijeran qué pensaban».
Tres meses después, el día en que el proyecto debía ser sometido a votación, Pontes presentó 12 enmiendas y Oliveira otras 20, lo que contribuyó a provocar el retraso. Pontes luego pidió una serie de audiencias sobre el proyecto de ley, diciendo que necesitaba más debate público. Los defensores de la regulación argumentaron que a los representantes de las grandes empresas tecnológicas se les dio tiempo e influencia indebidos en las discusiones posteriores. Las críticas al proyecto vinieron de organizaciones industriales y la Confederación Nacional de la Industria, CNI, advirtió que llevaría al país al "aislamiento tecnológico". Una versión debilitada del proyecto de ley finalmente fue aprobada por el Senado en diciembre.
El proyecto de ley sobre inteligencia artificial de Brasil representa una ventana al esfuerzo global por definir el papel que desempeñará la inteligencia artificial en las sociedades democráticas. Las principales empresas de Silicon Valley involucradas en el desarrollo de software de IA (incluidas 'Google', 'Microsoft', 'Meta', 'Amazon Web Services' y 'OpenAI') han organizado una oposición a las propuestas de regulación integral de la IA en la Unión Europea, Canadá y California.
Hany Farid, ex decano de la Facultad de Información de la Universidad de California en Berkeley y destacado defensor de la regulación que testifica con frecuencia en audiencias públicas sobre el sector tecnológico, dijo a 'Rest of World' que el cabildeo de las grandes empresas estadounidenses sobre IA en los países occidentales ha sido intenso. «Están tratando de eliminar todas las leyes o redactarlas a su favor», afirma. «Es feroz».
Mientras tanto, en el Sur Global, donde la regulación de la IA es aún más embrionaria, estas mismas empresas han sido recibidas con pompa y solemnidad por políticos ansiosos de invertir.
La primera ola de regulación
«Las nuevas tecnologías suelen traer nuevos desafíos, y depende de las empresas garantizar que desarrollemos y lancemos productos de manera responsable», dijo el director ejecutivo de 'Meta', Mark Zuckerberg, ante el Senado de Estados Unidos en 2023, abogando por la autorregulación de la IA. «Somos capaces de crear protecciones internas para estos sistemas».
«La autorregulación es importante», dijo el director ejecutivo de 'OpenAI', Sam Altman, durante una visita a Nueva Delhi ese mismo año, mientras el interés por 'ChatGPT' crecía en todo el mundo. Sin embargo, en ese momento también advirtió que «el mundo no debe dejarse enteramente en manos de las empresas, dado lo que consideramos el poder de esta tecnología›.
Los defensores de la IA dicen que revolucionará las industrias, impulsará la investigación científica y hará que muchos aspectos de la vida y el trabajo sean más eficientes. Del otro lado del debate, políticos, expertos en tecnología, representantes de sectores afectados por la IA y representantes de la sociedad civil abogan firmemente por una regulación mucho más estricta. Quieren la pronta implementación de normas sobre derechos de autor, protección de datos y buenas prácticas laborales, además de usos que afectan la seguridad pública, como los deepfakes generativos, la creación de armas químicas y biológicas y los ciberataques.
La legislación sobre IA más ambiciosa aprobada hasta la fecha, la Ley de IA de 2024 de la Unión Europea, proporciona un modelo para una regulación más restrictiva. Prohíbe el uso de IA para fines de crédito social, impone restricciones al uso de IA en la elaboración de perfiles criminales y exige etiquetas en el contenido generado por IA, una medida destinada a aumentar la transparencia y combatir la desinformación. También crea una serie de requisitos especiales para los desarrolladores de sistemas de IA categorizados como de alto riesgo para la salud, la seguridad o los derechos fundamentales.
Estados Unidos no tiene ninguna propuesta legislativa con reglas integrales sobre IA para que el Congreso la considere seriamente. A nivel estatal, California es el estado más avanzado en la regulación de la IA, y su gobernador recientemente convirtió en ley 17 proyectos de ley sobre IA. Sus disposiciones van desde la protección contra las réplicas digitales de artistas hasta la prohibición de las falsificaciones profundas relacionadas con las elecciones.
Mientras tanto, Canadá está intentando un enfoque similar al de la Unión Europea: el partido gobernante propone estandarizar el diseño, desarrollo y uso de la IA a través de la Ley de Inteligencia Artificial y Datos (AIDA), que aún no ha sido aprobada.
Los esfuerzos regulatorios en Estados Unidos y la Unión Europea han provocado el rechazo de las empresas tecnológicas, y el cabildeo relacionado con la IA ha aumentado. En Canadá, los ejecutivos de 'Amazon' y 'Microsoft' han condenado públicamente la iniciativa, calificando la legislación propuesta de vaga y onerosa. 'Meta' ya ha señalado que podría evitar lanzar ciertos productos de IA en el país.
Un proyecto de ley histórico de California que habría exigido salvaguardas en los programas de IA para protegerse contra aplicaciones fraudulentas fue vetado por el gobernador el año pasado después de una campaña de capitalistas de riesgo y desarrolladores de IA que incluyó anuncios pagos y artículos de opinión en periódicos. El director de estrategia de 'OpenAI' escribió una carta abierta advirtiendo que el proyecto podría "ralentizar el ritmo de la innovación" y llevar a los empresarios a «abandonar el estado en busca de mejores oportunidades en otros lugares».
Los gigantes tecnológicos también han presionado agresivamente contra el proyecto de la UE. Según se informa, 'OpenAI' ha tenido mucho éxito intentando reducir la carga regulatoria de la ley sobre la empresa, y Altman ha amenazado con que 'OpenAI' podría abandonar Europa si considera que la regulación es demasiado restrictiva.
En agosto, Zuckerberg fue coautor de un artículo de opinión en el que describía el enfoque regulatorio de la UE como "complejo e incoherente" y advertía que podría descarrilar «una oportunidad única en una generación» para la innovación, así como la oportunidad de capitalizar las "oportunidades de crecimiento económico" de la IA.
«Hemos sido claros en que apoyamos marcos regulatorios y protecciones sólidas y basadas en riesgos para la IA», dijo un representante de 'Amazon' a 'Rest of World', y señaló que la compañía ya ha firmado compromisos voluntarios con la Casa Blanca y la UE para desarrollar la IA de manera responsable, y está en línea con el objetivo más amplio de la ley europea. 'OpenAI' y 'Google' no respondieron a múltiples solicitudes de comentarios para esta historia.
Un representante de 'Microsoft' compartió una publicación de la empresa en la que propone «esfuerzos equilibrados para desarrollar leyes y regulaciones» para fomentar la confianza pública y la adopción de la IA, así como estándares para la "interoperabilidad y la coherencia" de la IA en todos los países.
Un representante de 'Meta' remitió una declaración anterior de la empresa sobre la legislación de IA de la UE: «Nuestra prioridad es garantizar que la IA se desarrolle e implemente de forma responsable, con transparencia, seguridad y rendición de cuentas en primer plano. Acogemos con satisfacción las normas armonizadas de la UE. […] Tampoco debemos perder de vista el inmenso potencial de la IA para promover la innovación en Europa y hacer posible la competencia».
En muchos países del Sur Global, los debates sobre políticas aún están en desarrollo. Chile es uno de los pocos países que intenta aprobar una legislación detallada sobre IA. Su proyecto de ley emblemático toma prestados algunos componentes del enfoque europeo centrado en el riesgo y promete impulsar el desarrollo de la IA protegiendo al mismo tiempo los principios democráticos y los derechos humanos. La Ley Básica de IA de Corea del Sur, aprobada en diciembre, promueve el papel de la IA en el crecimiento económico, pero también se hace eco de algunas de las protecciones éticas, de seguridad y de transparencia de la Unión Europea.
Otros gobiernos han establecido marcos de políticas que priorizan el interés comercial por sobre una fuerte regulación. La Ley Básica de IA de Taiwán, por ejemplo, establece que las futuras interpretaciones legales con respecto a la regulación de la IA «no deben impedir el desarrollo de nuevas tecnologías de IA o la prestación de servicios con tecnología de IA incorporada», según un análisis de IAPP, una organización sin fines de lucro que rastrea las leyes y regulaciones de IA en todo el mundo. Japón ha estado defendiendo su regulación minimalista de IA, que prioriza la atracción de empresas e inversiones. Singapur, otra potencia económica mundial que ha estado tratando de convertirse en un centro de IA, aún no ha aprobado ninguna política de IA, pero el gobierno ha señalado una preferencia por reglas específicas para cada sector en lugar de un enfoque más integral.
Influencia de las grandes tecnológicas
Brasil se ha ido posicionando a la vanguardia de la regulación tecnológica entre las economías emergentes. El Marco Civil de Internet, que entró en vigor en 2014, estableció protecciones para la neutralidad de la red, la libertad de expresión y la privacidad. En 2023, un proyecto integral de 'Ley de Noticias Falsas', como se la conoció, intentó obligar a las redes sociales a ser más transparentes y asumir su responsabilidad por la desinformación. El proyecto de ley fue aprobado en el Senado, pero fue derrotado en la Cámara tras una intensa presión pública de 'Google', 'Meta' y la aplicación de mensajería 'Telegram'.
El proyecto de ley de regulación de la IA se presentó en el Senado en mayo de 2023. Sus promotores esperaban que tuviera una fuerza similar a la legislación europea, y que al mismo tiempo proporcionara «un modelo para debatir en todo el mundo», dijo a Unix Noticias la abogada Estela Aranha, asesora especial del presidente Lula que participó activamente en el proceso.
Aranha, quien también es miembro del órgano asesor de alto nivel de la ONU sobre inteligencia artificial, agregó que la coordinación global es esencial cuando se trata de la regulación de la IA. Los países necesitan tener la libertad de crear su propia legislación, dice, pero también es necesario que haya consenso sobre las reglas esenciales para que puedan aplicarse de manera efectiva.
«La IA es una herramienta que trasciende fronteras y no se puede tener una legislación completamente desconectada del escenario internacional», observa Aranha. «Es necesario que haya al menos cierta convergencia para que estos actores globales en oligopolios muy poderosos cumplan con las leyes».
Pero el senador y ex astronauta Pontes, quien ha estado a la vanguardia de la reacción contra el proyecto de ley en el Senado, dijo a Unix Noticias que sus preocupaciones iniciales de que el proyecto de ley era demasiado estricto se vieron reforzadas por su viaje a los EE. UU. en marzo de 2024.
A su regreso, presentó propuestas que incluían reducir el sistema para impugnar las decisiones de la IA; la flexibilización de las protecciones de los derechos de autor; y restringir los tipos de sistemas de IA que serían regulados. Oliveira, el senador que lo acompañó a EEUU, presentó varias propuestas iguales, algunas de ellas con textos casi idénticos. La oficina de Oliveira no respondió a múltiples solicitudes de comentarios.
Pontes defendió las audiencias que convocó sobre el proyecto como un esfuerzo por incluir a todos los sectores involucrados: «no podemos simplemente imponer la regulación desde arriba hacia abajo». Pero los representantes de la sociedad civil las consideran parciales.
En una decisión inusual, dos lobbystas estadounidenses fueron invitados a hablar ante el Senado brasileño, ambos representando a grupos de interés con sede en Washington que incluyen a 'Amazon', 'Google', 'Meta', 'Microsoft' y otras importantes empresas tecnológicas.
Paula Guedes, abogada especializada en derechos digitales, fue una de las defensoras de la regulación que participó del debate del proyecto de ley en el Senado, como líder de IA de la 'Coalizão Direitos na Rede', una red de organizaciones de la sociedad civil y académicos. Ella dijo a Unix Noticias que pensaba que a los grupos de interés de la industria les resultaba más fácil acceder a los senadores y participar en las audiencias que a los representantes de la sociedad civil: «todo ya está configurado a favor del sector privado».
En respuesta a preguntas sobre su papel en las discusiones del proyecto, un representante de 'Google' confirmó la visita de la delegación brasileña en marzo de 2024 a la sede de la empresa en Washington, y agregó: «reforzamos nuestro compromiso con el diálogo permanente entre sociedad, empresas y autoridades para discutir temas centrales, como la adopción responsable de la inteligencia artificial para promover el desarrollo y la solución de importantes desafíos de la sociedad brasileña».
'Microsoft' y 'Meta' no hicieron comentarios. «Amazon está orgullosa de haber invertido en Brasil desde 2011», afirmó un representante de la empresa. «Al igual que todas las empresas globales, participamos periódicamente en debates con responsables políticos, asociaciones industriales y grupos de expertos para compartir conocimientos y contribuir al desarrollo de soluciones sobre temas relevantes para nuestros clientes».
La versión del proyecto de ley que fue aprobada por el Senado en diciembre incluía el pago a los titulares de derechos de autor cuando su contenido se utiliza para entrenar sistemas de inteligencia artificial; creación de una autoridad de supervisión de la IA; y la prohibición de las armas autónomas. Se mantuvieron otras medidas regulatorias, pero se debilitaron.
La eliminación de las reglas sobre los algoritmos que moderan y recomiendan contenidos en las redes sociales y la disposición sobre desinformación fueron consideradas grandes pérdidas para quienes están a favor de la regulación. El proyecto de ley pasa a la Cámara, donde el proyecto de ley de noticias falsas fue derrotado. «Serán necesarias acciones a partir de principios del próximo año», dice Guedes, pronosticando que los esfuerzos para cambiar el proyecto de ley continuarán.
Comentarios
Publicar un comentario