Esther Paniagua es periodista, una de las mayores expertas en internet e inteligencia artificial (IA) y una de las 100 Mujeres Top Líderes en España, una de las Forbes Top 100 Most Creative People in Business, es columnista y autora especializada en tecnología, ciberseguridad y gobernanza digital, advisor, mentora, profesora, speaker y LinkedIn Top Voices. Esta semana ha participado en el World Mobile Congress de Barcelona como ponente. En su libro Error 404 aborda el funcionamiento de internet, la IA y cómo nuestra dependencia digital nos hace vulnerables y plantea un futuro muy complejo. En nuestra serie de entrevistas sobre la IA, su voz exclusiva es una crítica imprescindible sobre los mayores desafíos del futuro.
Desde la misma portada del libro, Error 404 interpela al lector: «¿Preparados para un mundo sin internet?». Al respecto de si hoy sería posible un mundo no digital, esta experta tiene claro que «dependemos de internet para todo». Y ése es, precisamente, uno de los motivos que le llevaron a escribir este libro. Considera que «todo lo estamos convirtiendo en un ordenador conectado a internet a nivel sistémico, desde administraciones públicas a universidades, centros educativos, operaciones, todas las empresas, negocios que nacen ya digitalmente. Una gran parte de la economía es ya puramente digital, no física. Y nosotros mismos, a nivel individual, también».
Pero además lo son los objetos que nos rodean. «Todo está conectado», incide. Eso provoca que «hacer eficiente la gestión de estos recursos permita seguir generando datos todo el tiempo». El problema es la falta de seguridad, que «esa conexión ha ocurrido de forma muy poco o nada cibersegura». Y que, «cuando nació internet, no se creó pensando en cómo lo usamos hoy, ni que iba a soportar todo el comercio electrónico mundial, más de la mitad de la población mundial, y creciendo», explica.
Muy al contrario, se diseñó inicialmente para compartir recursos entre investigadores. Por tanto, aunque «se creó de forma resiliente y distribuida», no se pensó en las «capas» que se han ido añadiendo, ni «a la medida que se han ido enlazando las cosas. Éso es lo que hace internet vulnerable», afirma.
Tampoco estaba en la mente de sus creadores su evolución masiva, como en una distopía imaginada. Paniagua considera que «muchas veces estamos tratando de ir hacia imaginarios distópicos intencionalmente», que «muchos de los inventos actuales emergen de visiones de películas de ciencia ficción, algunas de ellas distópicas».
Un sistema vulnerable
La cuestión es que, en la actualidad, esta enorme dependencia digital «ha provocado un sistema vulnerable, tanto física y operativamente como en nuestra vida diaria, en lo personal, profesional e incluso emocional», explica. Porque «ha primado un diseño adictivo» de las plataformas y las aplicaciones, «basado en mecanismos extractivos de nuestros datos y de nuestra privacidad, que comercializan con nuestra vida íntima. Eso genera muchos otros problemas, de los que también hablo en Error 404«.
A partir de aquí, Paniagua vislumbra un futuro preocupante. «Siempre he mirado la ciencia y la tecnología desde un prisma positivo, como una forma de avanzar y fuente de buenas noticias. Pero, cuando hemos empezado a desarrollar aplicaciones que están minando nuestros derechos, el optimismo se me torna en una visión mucho más crítica», opina.
La buena noticia es que la Unión Europea (UE) está regulando para poner límites al uso de algunas funcionalidades de internet que perjudican a los usuarios. En ese sentido, asegura, «vamos en el buen camino». «Mejor o peor, pero al menos estamos haciendo algo». Ve positivos los avances europeos respecto al «diseño adictivo» de las plataformas, o de «patrones oscuros» que hacen que, por ejemplo, resulte muy difícil cancelar una suscripción o que te suscribas a cosas que no quieres. «Son técnicas subliminales, engañosas o que explotan nuestras vulnerabilidades para manipular nuestras decisiones», explica.
La nueva ley de servicios digitales de la Comisión Europea (CE), la Digital Services Act, ya ha prohibido este tipo de prácticas. Por tanto, insiste esta experta, «se están tomando medidas y yo creo que, si seguimos por ese camino, podremos tener una convivencia más positiva y extrayendo los elementos del desarrollo tecnológico o de la digitalización que nos ayudan».
No obstante, no pierde de vista que, «al final, dan más dinero a los grandes actores o a unos pocos, pero eso no se distribuye. Y, en muchos casos, con la IA se están diseñando tecnologías directamente para reemplazar no profesiones enteras, pero sí buena parte de ellas».
Un nuevo paradigma
Porque la IA seguirá cambiando nuestras vidas, generando un paradigma que abre en canal los grandes debates profesionales y humanos. Uno de ellos es, como menciona Paniagua, si se trata de una herramienta de apoyo o afectará a la esencia de profesiones como, por ejemplo, el periodismo. Al respecto, esta experta considera que «el periodismo se ve comprometido en la medida en que se reduzca al copia-pega. Ahí tenemos máquinas que hacen las cosas mejor, pero es que eso no es ser periodista. Una máquina no puede ser periodista».
La máquina «no puede experimentar el mundo, porque no tiene voluntad propia, ni juicio crítico y muchos otros elementos», añade. Sin embargo, los medios de comunicación usan desde hace tiempo la IA no generativa, el Machine Learning o aprendizaje automático «para crear contenido factual basado, por ejemplo, en resultados deportivos o financieros», explica esta experta.
Así, grandes medios de comunicación como Associated Press o The Washington Post -que creó el chatbot Heliograph en 2016- vienen aplicando la IA de forma útil para, por ejemplo, «conectarse con el sistema nacional de avisos de terremotos de los Estados Unidos» y emitir alertas en tiempo real. «También hay otras herramientas que pueden ayudarnos con tareas muy tediosas en las que pierdes mucho tiempo, como la traducción o la transcripción». Sin embargo, considera que algunos desarrollos son más cuestionables. Por ejemplo, los que se dedican al trabajo creativo. «Eso no es algo a lo que los humanos queramos renunciar», afirma asertiva.
Porque, añade, «pintar un cuadro o escribir un libro es algo propiamente humano. ¿Por qué lees un poema o un libro? Porque tú sabes que hay una persona detrás que ha experimentado una emoción y te la está transmitiendo directamente a ti. Sin eso, ¿qué interés tiene? Hoy, quizás como experimento. Pero, cuando la situación se normalice, las aplicaciones de IA serán el low-cost y, en muchas organizaciones, sustituirán servicios creativos por una cuestión de costes».
Así, lo artesano adquirirá más valor, prevé Paniagua. «Pero, inexorablemente, mucha gente se quedará fuera», lo que, en el caso del periodismo, «puede vulnerar el derecho de acceso a la información. Porque tenemos a ciudadanos de primera clase, que pueden pagar por la buena información, y de segunda clase, que se van a informar a través de medios con la mayoría del contenido automatizado. Lo van a sufrir la población y el derecho a la información».
Desafíos legales y éticos
Resolver estos desafíos plantea otros legales y éticos. Respecto a si el Reglamento de IA de la Unión Europea resuelve esos retos, Paniagua aclara que «el Reglamento se enfoca en los usos de alto riesgo. Pero hay usos que, aun sin ser de tan alto riesgo, plantean problemas. En el caso del periodismo, de deontología profesional. Y, como personas, cuando se pide ayuda a la IA, hay que pensar que se va a usar una herramienta creada expoliando el contenido, sin remunerar a sus autores y autoras».
Así, periodistas, escritores, diseñadores y, especialmente los y las artistas, afrontan el dilema de obtener de la IA obras generadas «a partir del expolio de un contenido de artistas, que está protegido por la propiedad intelectual», destaca Paniagua. El Comité Europeo de Protección de Datos ha mostrado, según esta experta, una inclinación restrictiva hacia lo que las desarrolladoras de IA denominan «uso legítimo».
Las desarrolladoras de IA alegan que se basan en un uso legítimo de este contenido (creado por otros) para usar las herramientas, pero que no cometen plagio. «Sin embargo, hemos visto que en muchos casos regurgitan el mismo contenido en párrafos enteros o incluso datos personales. Pues todo eso lo van a tener que hacer con mucho más cuidado, porque si no, incluso pueden verse en la situación de tener que eliminar el propio algoritmo», afirma.
Aunque Paniagua no se imagina la eliminación del ChatGPT «por la rápida adopción que ha tenido», sí ve posible que las desarrolladoras de IA se vean obligadas a realizar cambios. El Reglamento Europeo de IA ya obliga a etiquetar los contenidos generados con IA. «Eso ayuda a la trazabilidad, pero si no explicas exactamente para qué lo has utilizado y cómo, pierde la relevancia. Porque no es lo mismo utilizarlo para inspirarme o hacer un análisis crítico de mi artículo, que darle unas guías a la IA y que me lo escriba», explica.
Lo que nos lleva a la siguiente ‘pantalla’: la pérdida de confianza en la información. «Porque se ha visto que muchos usuarios, al ver contenidos etiquetados con IA, empiezan a desconfiar. No le dan la misma credibilidad que a un humano, aunque el artículo lo haya escrito y analizado un periodista. Es un entorno realmente complejo», puntualiza.
En este vasto y complicado universo de la IA, el Reglamento Europeo supone una salvaguarda. Preguntada respecto a la regulación de la IA en otros países, la autora de Error 404 inmediatamente piensa en los Estados Unidos, donde «con la nueva administración, parece muy complicado llegar a consensos». Con el boom de la IA generativa -señala- empezaron a plantear caminos regulatorios «contra el salvaje oeste digital», para no cometer los mismos errores que con las redes sociales, o con gigantes como Google. «Ahora, con Trump, la regulación y el desarrollo justo, responsable y seguro de la IA han desaparecido del mapa», afirma.
El futuro de los medios
En el caso de los medios de comunicación en los Estados Unidos, ya hay asociaciones creando códigos conjuntos de buenas prácticas para no perder los valores del periodismo, explica Paniagua. Y añade que «integrar la IA para ser más eficientes no es un valor periodístico. Sí lo es aportar valor público, rendir cuentas o la transparencia. «Estos valores periodísticos no se deben perder. El problema es que muchos gestores de medios están pidiendo a empresas de IA que les hagan aplicaciones solo para aumentar la eficiencia y reducir costes. Y lo primero que preguntan es: ¿A cuántos periodistas me voy a poder quitar de encima?».
En este panorama se plantean, por tanto, múltiples encrucijadas, bajo el prisma de esta experta. Aparte de la competitividad -«cuanto más contenido generes, más relevancia tienes en los buscadores de internet»- llegará «una nueva desintermediación» con la IA. Como explica, los grupos mediáticos que firman acuerdos con OpenIA «están vendiendo su alma al diablo, ofreciendo contenido para que el ChatGPT responda en directo a todas las preguntas que quieran, de fuentes de calidad, saltándose el muro de pago y sin tener que hacer clic en esos medios para obtener la información».
Lo siguiente que ocurrirá, en su opinión, es que «estos medios van a perder ingresos publicitarios, igual que pasó en la desintermediación producida por las plataformas como redes sociales y Google». «Al mismo tiempo, se compite también por poder adoptar esas herramientas, «que son caras de desarrollar y requieren de una gran cantidad de energía ingente, agua y enormes volúmenes de datos».
«Un medio de comunicación no tiene la capacidad de desarrollar su ‘propio’ ChatGPT, pero sí puede adaptar un modelo ya existente, y combinarlo con otras tecnologías de IA. Aquí los grandes medios tienen más poder que los pequeños, porque los pequeños, como muchos medios locales, tienen cero capacidad de inversión en este tipo de tecnologías. A pesar de que, hoy más que nunca, el periodismo local es el que realmente tiene capacidad de cambio y de mejora de la calidad democrática», concluye esta experta.
Artículo relacionado