Cientos de empresarios y expertos piden pausa en desarrollo de IA

En marzo de 2023, cientos de empresarios como Elon Musk, Steve Wozniak (cofundador de Apple) o los presidentes de numerosas compañías tecnológicas; intelectuales como Yuval Noah Harari y cientos de académicos e investigadores especializados en inteligencia artificial firmaron una carta abierta avisando del peligro de la falta de regulación de la IA, poniendo el foco sobre OpenAI, la empresa que ha desarrollado ChatGPT. Pidieron una pausa de al menos 6 meses para sus experimentos más potentes, hasta que el mundo logre un consenso internacional para que estos sistemas «sean más precisos, seguros, interpretables, transparentes, robustos, neutrales, confiables y leales».

Esta perspectiva no implica una equiparación entre seres humanos e inteligencias artificiales, sino una arquitectura jurídica funcional que permitiría canalizar las consecuencias derivadas de la producción autónoma de bienes y servicios por parte de sistemas de IA. Se propone, por ejemplo, que los ingresos generados por bots creativos o vehículos autónomos puedan ser destinados a fondos de garantía o tributación, aliviando así presiones sobre las economías humanas y evitando zonas grises en la responsabilidad jurídica.

La carta argumenta que la falta de regulación podría generar consecuencias negativas para la humanidad, como el desarrollo de armas autónomas o la pérdida de empleos debido a la automatización. Los firmantes creen que una pausa en el desarrollo de IA de vanguardia permitiría tiempo para establecer normas éticas y legales que garanticen un uso responsable de esta tecnología.

Un nuevo informe elaborado por un grupo interdisciplinar de investigadores, del que forman parte Barry Eichengreen, Will Fithian, y Wesley Holliday, concluye que una pausa global en el entrenamiento de la IA de vanguardia es tanto factible como sostenible. Si se aplica adecuadamente, dicha pausa podría prolongarse durante una década o más, dependiendo de factores como el ritmo de mejora en la eficiencia del entrenamiento de la IA.

Los modelos de vanguardia requieren chips de IA cuya cadena de suministro está muy concentrada. Una “pausa integrada” aprovecharía este cuello de botella deteniendo la producción de chips de IA aptos para el entrenamiento. Permitiría la producción de chips capaces de realizar inferencias rápidas de IA en modelos aprobados, pero que, debido a su diseño, no podrían utilizarse en la práctica para entrenar nuevos modelos de vanguardia.

Una vez que se acelere la producción de chips destinados exclusivamente a la inferencia, los chips capaces de entrenamiento anteriores a la pausa se irían retirando progresivamente, de modo que no pudieran utilizarse para avivar una nueva carrera por la IA. Esta pausa programada permitiría a los Estados cosechar los beneficios económicos de la inferencia de IA sin continuar con el entrenamiento de IA, que podría provocar perturbaciones abrumadoras para la sociedad y la seguridad nacional.

La cadena de suministro de los chips de IA sufre graves cuellos de botella. Las máquinas de litografía avanzada (ultravioleta extremo) solo las suministra un único proveedor, la empresa neerlandesa ASML, y se transportan en contenedores repartidos en 20 camiones y tres aviones de carga. ASML depende de los espejos de una única empresa alemana de óptica de alta precisión, Zeiss. Las tierras raras refinadas solo están disponibles en un número limitado de fuentes nacionales. Otros materiales, como el cuarzo de alta pureza, proceden de un puñado de lugares.