El escritor israelí y Mustafa Suleyman advirtieron sobre la propuesta del presidente Javier Milei, quien adelantó que está preparando una respuesta formal para calmar las aguas.
El historiador y escritor israelí Yuval Noah Harari y el CEO de Microsoft, Mustafa Suleyman, debatieron en redes sociales sobre la preocupación que les genera la idea del presidente Javier Milei de otorgar personería jurídica a empresas de inteligencia artificial sin humanos.
Harari cuestionó la propuesta del Presidente y aseguró que es una herramienta extremadamente riesgosa. Lo hizo a través de una columna publicada en el diario británico Financial Times, donde analizó el anuncio de Milei sobre la creación de una nueva categoría legal destinada a las denominadas “corporaciones no humanas”, que serían entidades administradas por sistemas de IA con capacidad de actuar de forma autónoma.
Harari elogió a Miler por querer “mejorar la situación económica de la Argentina”, aunque advirtió sobre los peligros regulatorios globales de la medida.
El filósofo remarcó que la figura legal propuesta sería una llave maestra que permitiría los sistemas de IA acceder a los ámbitos financiero, económico y político con un grado de autonomía sin precedentes.
Explicó que estas organizaciones no humanas gozarían de los beneficios de la personalidad jurídica, aunque operarían sin la intervención ni la responsabilidad final de ningún ser humano. De este modo, los agentes de IA estarían facultados para poseer activos, contratar empleados, participar en el comercio internacional, iniciar demandas judiciales ante los tribunales e incluso realizar donaciones a campañas políticas de manera directa.
Harari sumó también que los mecanismo tradicionales de sanción legal y económica perderían efectividad frente a una inteligencia artificial.
Milei le respondió y le agradeció por su intervención en la red social X. Le dijo que el escenario actual sitúa a la humanidad en el amanecer de una nueva era, de modo que señaló un paralelismo con los conceptos que el escritor describió en sus libros sobre cómo los humanos usan ficciones jurídicas e institucionales para organizar el trabajo colectivo y beneficiarse de los avances tecnológicos.
En ese aspecto, el Presidente dijo que en este contexto es necesario de la inteligencia colectiva para formar un marco regulatorio para aprovechar las oportunidades del desarrollo tecnológico. Y sumó: está preparando una respuesta formal a los cuestionamientos y calmar los temores planteados sobre las regulaciones.
En medio de todo esto, el CEO de Microsoft le respondió en la misma red social a Harari y advirtió que “tenemos que ser muy cuidadosos con esto”. En paralelo, compartió una nota suya en Nature donde habla del tema.
En su escrito, mencionó que “a medida que los agentes de inteligencia artificial comienzan a imitar la conciencia con una habilidad asombrosa, necesitamos normas y leyes de diseño que impidan que se les confunda con seres sintientes”.
Utilizando de ejemplo a Moltbook, una red social para agentes de inteligencia artificial, Suleyman remarcó que “se necesita un nuevo marco conceptual para salvaguardar los intereses humanos a medida que se desarrolla la IA”.
“A medida que los sistemas de IA operan con mayor autonomía, deben seguir siendo fundamentalmente responsables ante los humanos y estar subordinados al bienestar de la humanidad. Los agentes de IA no deberían tener más derechos ni libertades que mi computadora portátil. Los desarrolladores deben eliminar activamente la ilusión de consciencia de nuestros productos”, argumentó.
“Cuando un usuario interactúa con un agente, el sistema debe esforzarse constantemente por disipar la ilusión de que se trata de un ser sensible. No debe manipular nuestra empatía humana afirmando que sufre o que desea vivir fuera del control humano”, afirmó el CEO de Microsoft.
Para Suleyman, la “IA ayudará a curar enfermedades y dará un impulso significativo a la productividad de todos en el planeta”, pero señaló que “es responsabilidad de todos garantizar que los sistemas de IA se diseñen de manera que su único objetivo fundamental sea proteger y mejorar el bienestar humano”.
“Todavía estamos a tiempo de implementar la autorregulación en todo el sector, leyes nacionales y normas compartidas sobre cómo se presentan los modelos de IA a los usuarios. Para empezar, debemos dejar claro que los agentes de IA no deben tener personalidad jurídica propia, ni se les debe permitir participar en elecciones ni hacer campaña en ellas”, cerró.
