Presentado el Manifiesto OFF, que aboga por la necesidad de recuperar el control sobre la tecnología | Tecnología

Desde que los avances en inteligencia artificial han disparado las alarmas sobre su potencial y riesgos, ningún gobierno, experto o empresario ha dejado de alertar sobre la urgencia de tomar medidas. Los meses posteriores al auge de ChatGPT vieron proliferar manifiestos apocalípticos, firmados por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han solicitado una pausa en su desarrollo, mientras que la Unión Europea ha logrado implementar la primera ley mundial para su regulación. No obstante, hay voces que claman por un esfuerzo aún mayor. Un centenar de destacadas personalidades, tanto nacionales como internacionales, el Manifiesto OFF. Este documento destaca la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más avanzada y autónoma, e insta a emprender acciones más decididas y ambiciosas.

El manifiesto, que se ha presentado este miércoles en Madrid, ha sido firmado por personas procedentes del mundo de la cultura, las ciencias, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutivo de PRISA Media, Carlos Núñez, el presidente de CaixaBank, José Ignacio Goirigolzarri, la directora de Tecnología, medios y Comunicación en la Universidad de Columbia, Anya Schiffrin, o el CEO de Atresmedia, Javier Bardají, entre otros. “Se trata de una iniciativa independiente, que nació de la preocupación genuina acerca de tendencias que ponen de manifiesto la enorme vulnerabilidad del ser humano y de las instituciones frente a un despliegue tecnológico mal enfocado”, ha explicado el emprendedor y escritor Diego Hidalgo, coordinador del manifiesto. “Pretende ser un primer paso hacia una movilización de la sociedad civil. Nuestro objetivo es retomar el control sobre la tecnología digital, con la ayuda de la acción pública y privada”.

En esta línea, Hidalgo ha recordado los riesgos para la salud mental que supone poseer un móvil en una edad temprana. “Afortunadamente, algunos de los temas que aborda el manifiesto ya empiezan a tener cierta presencia en el debate público. Uno de ellos tiene que ver con el deterioro profundo de la salud mental, en especial de los jóvenes de la que todavía nos cuesta tomar la medida. Las curvas que describen el malestar de los jóvenes están al alza, un alza absolutamente vertiginosa”, ha recordado. Según un estudio realizado por la plataforma Sapiens Lab, el hecho de que un niño posea un smartphone con 12 años aumenta un 20% la probabilidad de sufrir depresión cuando sea adulto, con respecto a acceder a él a los 18 años, mientras que el 74% de las que disponen de él desde los 6 años han sufrido síntomas depresivos. En España, el 88% de los jóvenes dispone de un smartphone a los 13 años.

Ana Caballero, abogada y vicepresidenta de la Asociación Europea para la Transición Digital, ha expresado durante la presentación sus perplejidades sobre la mercantilización de los datos. “Estamos ante tecnologías que no son neutras. Pero sobre todo, estas empresas que mercantilizan con nuestros datos son extracomunitarias, y nos ven a los europeos como una gran base de datos con poder adquisitivo. Desgraciadamente, muchas veces no somos conscientes de que pagar con datos es pagar”, ha explicado.

Además de poner el foco en los riesgos que conllevan las grandes innovaciones como la inteligencia artificial, el manifiesto expone una serie de medidas calificadas de urgentes para garantizar que la tecnología se mantenga al servicio de la humanidad, y no en su contra. En este sentido, los firmantes abogan en primera instancia por la creación de leyes y regulaciones que limiten el uso indebido de la tecnología, especialmente en cuanto a vigilancia, privacidad y monopolios.

Entre las preocupaciones, se encuentra la posibilidad que los estados controlen excesivamente, y de forma generalizada, a los ciudadanos, a través del reconocimiento facial o de otras tecnologías que no garanticen el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, la tecnología biométrica es ampliamente utilizada en los aeropuertos tanto por las aerolíneas como por las agencias gubernamentales a cargo de la seguridad de la aviación. “La videovigilancia con tecnología de reconocimiento facial abre una caja de pandora que amenaza nuestra privacidad y anonimato en el espacio público. Supone un salto diferencial hacia el rastreo sistemático de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, que recuerda que Amnistía Internacional hizo un llamamiento para prohibir el uso de los sistemas de reconocimiento facial por considerarla una forma de vigilancia masiva.

José María Lassalle, exsecretario de Estado de Agenda digital y director del Centro de Humanismo tecnológico de ESADE, ha insistido sobre las implicaciones que pueden tener la IA en las guerras. “La inteligencia artificial es algo que está tratando de ser alguien, pero sin conciencia. Y esto está alterando los ejes de la capacidad humana para entender esta tecnología, y se visualiza de una manera muy clara en el ámbito de las armas letales”, ha dicho durante la presentación. “Su aplicación en las guerras, que es una experiencia humana desgraciada que nos ha acompañado desde nuestros orígenes como especie, puede ser disruptiva”.

Asimismo, el manifiesto propone la implementación de unas medidas regulatorias que sean “jurídicamente vinculantes”, con el objetivo de defender a los ciudadanos de los abusos que empresas privadas —y en algunos casos, los Gobiernos de estados autoritarios— pueden ejercer. Esto incluye la prohibición de publicidad microfocalizada, la protección de neuroderechos a nivel constitucional, legislación internacional contra armas letales autónomas y el “derecho a la desconexión”, que garantice el acceso a servicios en especial públicos de manera no digital.

Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se ha enfocado especialmente en el acceso a datos y la ética en el diseño de algoritmos, sugiriendo regulaciones para asegurar su integridad. “Ahora mismos, es imposible por parte de las empresas periodísticas que tradicionalmente han elaborado información competir con las grandes plataformas tecnológicas”, ha insistido Herrero-Beaumont, que ha recomendado la prevención de la publicidad microfocalizada como medida crítica para evitar esta deriva.

Finalmente, los firmamentos han recomendado la implantación de iniciativas educativas para mejorar la alfabetización digital de la población, fomentando una comprensión más profunda de los impactos y limitaciones de la tecnología, así como el desarrollo de habilidades críticas para manejar la influencia tecnológica en la sociedad.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para recibir nuestra newsletter semanal.