La inteligencia artificial (IA) está transformando múltiples industrias, desde la salud hasta las finanzas, y ahora, con #PinchaLaBurbuja, el ámbito de la Educación Crítica Mediática. En este sentido, uno de los desafíos más preocupantes que enfrentan los modelos de IA es la generación de alucinaciones, es decir, respuestas incorrectas o engañosas.
¿Por qué ocurre esto? ¿Cómo podemos minimizar estos errores?
En este artículo, exploraremos qué son las alucinaciones de la IA, sus causas, ejemplos comunes y estrategias para prevenirlas, haciendo un repaso de cómo abordamos este reto en #PinchaLaBurbuja.
¿Qué son las alucinaciones de la IA?
Estos errores pueden tener graves consecuencias, especialmente en sectores críticos como el diagnóstico médico o el análisis financiero, donde una predicción incorrecta puede derivar en decisiones costosas o incluso peligrosas. Sin embargo, también estamos viendo cómo la Inteligencia Artificial Generativa representa un enorme reto en el ámbito de la opinión pública, la desinformación, la polarización política y la generación de cámaras de eco.
Cada vez más, la ciudadanía recurrirá a herramientas como ChatGPT para realizar consultas, al igual que antes lo hacía con Google. Al ofrecer respuestas que parecen tan reales, estas herramientas podrían generar una ruptura con el conocimiento real: si aceptamos sin cuestionar lo que nos dicen estos modelos, podríamos llegar a creer en teorías falsas, como la idea de que la Tierra es plana.
Y es que, como se suele decir, una mentira repetida mil veces termina por convertirse en verdad (Principio de orquestación, contenido en los 11 principios de la propaganda de Goebbels)
Como señala Ulrich Beck:
“El poder está en manos de aquellos que tienen la capacidad de definir las condiciones de la realidad.”
Causas principales de las alucinaciones de IA
Existen múltiples razones por las que los modelos de inteligencia artificial pueden generar alucinaciones. Las más relevantes incluyen:
1. Datos de entrenamiento deficientes
Un modelo de IA aprende a partir de los datos con los que ha sido entrenado. Si estos datos son incompletos, erróneos o sesgados, el modelo generará respuestas inexactas. Por ejemplo, si un modelo de IA para la detección de cáncer solo se entrena con imágenes de tejido enfermo, podría diagnosticar erróneamente el tejido sano como cancerígeno. Nuestros Cyborgs han sido entrenados del marco teórico de mi tesis doctoral y sigo entrenándoles mediante el análisis de tendencias en X de diferentes corrientes ideológicas, susceptibles de generar polarización.
2. Falta de fundamentación adecuada
La IA no tiene una comprensión del mundo real como los humanos. Puede generar respuestas que parecen coherentes pero que carecen de base factual, como inventar citas o referencias a fuentes que no existen. En el contexto de #PinchaLaBurbuja, nos basamos únicamente en los aspectos que queremos tratar, fundamentales para detectar de manera independiente las características específicas de los mensajes de una cámara de eco determinada. Por ejemplo, las palabras #Woke o #Nakba fueron tendencia en diferentes contextos y representan diferentes formas de ver el mundo. Mientras la palabra #Woke es utilizada por personas de un espectro más conservador, con una narrativa que reacciona al movimiento LGTBI+, al globalismo, al feminismo o a la inmigración, argumentando que suponen una ruptura con los valores tradicionales sobre todo cristianos; #Nakba es utilizada por Palestinos y simpatizantes de Palestina, con una narrativa que habla de “la catástrofe”. En algunos casos los mensajes son aprovechados por algunos para difundir mensajes antisemitas, en otros casos solo expresan el dolor de una parte de la población que lo ha perdido todo. Ambas son narrativas de polarización que reflejan un “nosotros” superior y un “ellos” homogéneo”.
3. Sobreajuste del modelo
Cuando un modelo está demasiado ajustado a los datos de entrenamiento, pierde la capacidad de generalizar correctamente en nuevas situaciones, lo que puede provocar predicciones erróneas. Por ejemplo, al entrenar a los Cyborgs para detectar patrones en mensajes sobre desinformación en redes sociales, procuramos evitar que el modelo memorice frases específicas de los datos de entrenamiento en lugar de aprender patrones generales sobre el lenguaje de la polarización, para evitar que genere resultados incorrectos cuando se enfrenta a nuevos mensajes de redes polarizadas. Para ello, utilizamos un corpus de 2000 tweets (para empezar) de diferentes contextos.
4. Excesiva generación de información
Los modelos generativos de IA, como los asistentes virtuales y los generadores de texto, pueden producir información adicional que no estaba presente en los datos de origen, generando así respuestas incorrectas o irrelevantes. Los Cyborgs de #PinchaLaBurbuja han sido ajustados con una estructura determinada, a partir de 2000 tweets por Cyborg.
Ejemplos de alucinaciones en inteligencia artificial generativa
Las alucinaciones de la IA Generativa pueden tomar varias formas en distintos escenarios. Algunos ejemplos comunes incluyen:
-
- Predicciones erróneas: Por ejemplo, un modelo meteorológico de IA podría predecir lluvia en un día despejado debido a datos climáticos inexactos. En este contexto, una predicción errónea por parte del equipo de Cyborgs podría ser, simplemente, predecir algo. Los GPTs no han sido ajustados para hacer predicciones. Si una situación así se produjera, es importante poner una DENUNCIA, para optimizar las respuestas e ir mejorando #PinchaLaBurbuja entre todos. También podéis aprovechar nuestro Instagram para comentar estos errores y contemplar soluciones entre todas. Aquí lo importante es aprender.
-
- Falsos positivos: En el ámbito de la ciberseguridad, la IA podría identificar erróneamente transacciones legítimas como fraudulentas, generando bloqueos innecesarios. En el caso de #PinchaLaBurbuja, un falso positivo sería, por ejemplo, en el caso de “Luna”, experta en discurso de odio, detectar que existe esta clase de discurso en un texto o una imagen, sin que realmente esto sea así. En este caso podemos hacer lo mismo que en el caso anterior. CONTRASTAR y DENUNCIAR es muy importante, por una parte, como parte de nuestro aprendizaje
-
- Falsos negativos: Por otro lado, un modelo de IA médica podría pasar por alto un tumor maligno, dejando sin detectar una amenaza real para la salud. En #PinchaLaBurbuja, un falso negativo sería que por ejemplo “Kira”, el Cyborg que detecta las falacias en los mensajes, comentara que no se ha detectado falacia. En este caso, para resolver la alucinación, podemos revisar nuestro “Diccionario de Falacias”, detectar qué tipo de falacia es y DENUNCIAR el asunto a la profe, que soy yo. Te daré feedback y además me ayudarás a ajustar y optimizar los modelos para mejorar #PinchaLaBurbuja.
Cómo prevenir las alucinaciones de la IA
Afortunadamente, existen diversas estrategias que podemos implementar para reducir el riesgo de alucinaciones en los modelos de IA:
1. Optimización de los datos de entrenamiento
Es crucial entrenar los modelos con datos de calidad, equilibrados y representativos del problema a resolver. Utilizar fuentes relevantes y diversas garantiza un mejor rendimiento del modelo. El equipo de Cyborgs de #PinchaLaBurbuja ha sido entrenado con los datos de mi investigación doctoral, información del marco teórico para contextualizar y 2000 tweets sobre contenido en una red altamente polarizada. Próximamente publicaré un artículo que compartiré por aquí.
2. Regularización de modelos
Aplicar técnicas de regularización ayuda a limitar las predicciones extremas y a evitar el sobreajuste, lo que mejora la precisión y fiabilidad de los resultados. En los análisis de hashstag que hacemos en #PinchaLaBurbuja incluímos tendencias de un amplio espectro ideológico a fin de evitar sesgos ideológicos. Mantenemos un balance entre la precisión de las recomendaciones de contenido y la diversidad informativa para no reforzar cámaras de eco. Además, evitamos la sobreadaptación de patrones de desinformación presentes en los datos de entrenamiento. Todo ello para garantizar que los Cyborgs, no produzcan contenido sesgado o extremo, para limitar la posibilidad de resultados erróneos.
3. Uso de plantillas y estructuras predefinidas
Proporcionar a la IA guías o plantillas para estructurar sus respuestas contribuye a una generación de contenido más precisa y coherente. Nuestros Cyborgs han sido ajustados de manera estructurada para ofrecer respuestas relevantes y acordes con el contexto del mensaje. Por ejemplo, Max, el Cyborg que muestra como se produce la polarización en un determinado texto, está entrenado para que sus respuestas tengan una estructura determinada que sea fácil de interpretar por parte del usuario: 1ºLa emoción que subyace detrás del mensaje; 2ºIntención de la emoción; 3ºDefinición del endogrupo, como el grupo de pertenencia con el que se está identificando el autor del mensaje; 4º Definición del exogrupo, el término mismo implica un sentimiento de separación, de “el otro” frente a mí, propio de la polarización; 5º Si existe sesgo de endogrupo, que tiene un sentimiento de superioridad, de “lo mío es mejor”, mi grupo es mejor. 6ºSi existe sesgo de homogeneidad del exogrupo: “el sujeto trata a los miembros del exogrupo como “elementos indiferenciados de una categoría social unificada” (TAJFEL, 1978, p. 45). Se ha escogido la teoría de la identidad social, de Tajfel y Turner (1979) por entender que está íntimamente relacionada con el proceso de deshumanización que se da hacia “el otro” en contextos altamente polarizados.
4. Implementación de feedback humano
El monitoreo continuo y la retroalimentación por parte de expertos humanos permiten ajustar y corregir posibles desviaciones del modelo en el tiempo, por lo que es importantísima tu labor de verificación de las respuestas de nuestros Cyborgs, y que utilices la sección DENUNCIA para que me pueda enterar de los errores y atajarlos cuanto antes.
5. Pruebas rigurosas antes de la implementación
Antes de desplegar un modelo de IA en entornos críticos, es fundamental realizar pruebas exhaustivas para detectar posibles errores y garantizar su fiabilidad. En #PinchaLaBurbuja utilizamos tecnología GPT4 (Generative Pre-trained Transformer 4), lo que aporta a nuestras adaptaciones (los Cyborgs GPT) una base sólida que nos ayuda con la robustez de nuestros Cyborgs.
La importancia de comprender, mitigar las alucinaciones y aprender a detectas las alucinaciones de la IA Generativa
Las alucinaciones en la inteligencia artificial generativa son un desafío importante que no debe subestimarse. A medida que la IA continúa integrándose en nuestra vida cotidiana y en sectores clave y es esencial que, como el gran equipo que vamos a ser, comprendamos que estos Cyborgs tienen sus limitaciones y adoptemos medidas proactivas para minimizar errores. Con una correcta planificación, entrenamiento y supervisión, es posible mitigar los riesgos asociados a las alucinaciones y aprovechar al máximo el potencial de nuestra IAG de manera segura y eficaz. En #PinchaLaBurbuja tenemos varias maneras de mitigar las alucinaciones y su influencia: a través de un glosario de términos, para contrastar con las respuestas de los Cyborgs; con la submisión “crea y colabora” en Poddlet, donde crearemos colaborativamente definiciones visuales en mapas conceptuales; y la sección “Denuncia”, donde nos ayudaréis con la identificación de esas alucinaciones y adquiriréis el hábito de sospechar de todo lo que genere la IAG…Aunque sea nuestra.