Contenido educativo 2 – INCIBE – Deepfakes, Seguridad y Ética en la Era de la IA y Blockchain

Los textos presentan un amplio panorama sobre la Integridad y el uso responsable de las tecnologías disruptivas, centrándose en la Inteligencia Artificial (IA) y la tecnología Blockchain. Un tema central es la seguridad en la IA, detallando los tres pilares (confidencialidad, integridad y disponibilidad) y los riesgos asociados, como los ataques adversarios (envenenamiento de datos y evasión) y el sesgo algorítmico, que perpetúa la discriminación social a través de los datos de entrenamiento. También se aborda la vulnerabilidad de los adolescentes a la IA generativa, incluyendo la dependencia emocional y el riesgo de desinformación, destacando la necesidad de educar en el pensamiento crítico y la verificación de fuentes. Finalmente, se explican los fundamentos de Blockchain como un registro inmutable y descentralizado, sus mecanismos de consenso y su sinergia con la IA para mejorar la ciberseguridad y la transparencia en diversos sectores.

La respuesta a su consulta se divide en tres secciones: los riesgos del uso de la Inteligencia Artificial (IA), las prácticas para su uso responsable y ético, y los fundamentos de la tecnología Blockchain.

I. Riesgos del Uso de la Inteligencia Artificial (IA)

Los riesgos de la IA se clasifican en amenazas a la seguridad y privacidad, riesgos de sesgo algorítmico y daños derivados del contenido malintencionado, como los deepfakes:

A. Riesgos de Seguridad y Privacidad

1. Exposición de Información Sensible: El uso de herramientas de IA implica la posibilidad de compartir información confidencial sobre los usuarios, como datos personales, calificaciones, comportamientos en clase e incluso datos sensibles relacionados con el bienestar emocional,. La privacidad y seguridad de esta información debe ser una prioridad.
2. Políticas de Datos Poco Claras: Existen herramientas de IA diseñadas para adultos que no deberían utilizarse en entornos educativos debido a sus políticas de tratamiento de datos poco claras o sus interfaces inapropiadas.
3. Vulnerabilidades en la Recolección de Datos: La IA a menudo procesa grandes cantidades de datos sensibles, como información financiera o médica, y si se gestionan, almacenan o utilizan incorrectamente, puede haber infracciones de privacidad que violen el consentimiento del usuario,.
4. Riesgos Específicos para Menores: La interacción de los adolescentes con la IA plantea la preocupación de que se utilicen sus imágenes o datos personales sin el consentimiento adecuado para el entrenamiento de modelos, o que la IA ejerza presión involuntaria para que revelen información íntima o sensible en interacciones aparentemente seguras,.

B. Riesgos de Sesgo y Discriminación Algorítmica

El sesgo algorítmico se define como errores sistemáticos y repetidos que producen resultados injustos o discriminatorios, que a menudo reflejan o refuerzan los prejuicios sociales y la discriminación histórica,,.

1. Datos de Entrenamiento Sesgados: El sesgo surge principalmente cuando los datos utilizados para entrenar los modelos de machine learning no son representativos de la diversidad de la población,,.
2. Ampliación de Desigualdades: La IA corre el riesgo de codificar y amplificar las imperfecciones y prejuicios sociales preexistentes, lo que conduce a resultados desiguales y potencialmente discriminatorios,.
3. Impacto en la Vida Real: Los sistemas sesgados pueden tener consecuencias devastadoras en ámbitos cruciales como la justicia penal (predicciones erróneas sobre reincidencia), la atención sanitaria (algoritmos que subestiman las necesidades de salud de grupos minoritarios),, y la contratación (discriminación sistemática de género),.
4. Aporofobia Algorítmica: Los algoritmos de «puntuación de riesgo» para detectar fraude en ayudas estatales pueden utilizar variables correlacionadas con la pobreza (como el código postal) como indicadores de sospecha, afectando desproporcionadamente a ciudadanos vulnerables.

C. Riesgos Derivados de Ataques Maliciosos y Deepfakes

1. Deepfakes como Amenaza Principal: Los deepfakes son sofisticadas falsificaciones digitales (imágenes, vídeos o audios) generadas por IA que son indistinguibles del contenido real, considerándose una de las mayores amenazas para la sociedad,.
2. Fraude Financiero y Corporativo: Se utilizan para el fraude, incluyendo la suplantación de ejecutivos en videollamadas o llamadas falsas para solicitar información confidencial o autorizar transacciones financieras (Fraude del CEO), lo que ha provocado pérdidas millonarias,,.
3. Desinformación y Daño Reputacional: Los deepfakes facilitan campañas de desinformación, manipulación de la percepción pública, influencia en elecciones y ataques a figuras públicas, lo que socava la confianza en las instituciones y la estabilidad social,,.
4. Explotación y Daño Moral: Esta tecnología se usa para la manipulación no consensuada con fines de acoso, chantaje y la creación de contenido de abuso sexual infantil o imágenes sexualizadas falsas,,.

D. Riesgos de Dependencia y Pérdida de Habilidades (en Adolescentes)

1. Dependencia Emocional y Aislamiento Social: El uso de asistentes virtuales (chatbots) puede generar dependencia emocional, sustituyendo las interacciones humanas y llevando a un aislamiento social progresivo,,,.
2. Pérdida de Habilidades Críticas: La dependencia de la IA para tareas escolares genera una pérdida de habilidades críticas, razonamiento y capacidad de análisis en los estudiantes, ya que el sistema les da la respuesta sin el proceso mental necesario,,.
3. Vulnerabilidad a Ataques Adversarios: Los atacantes pueden manipular el entrenamiento del modelo (envenenamiento de datos) o alterar sutilmente la entrada para forzar una predicción errónea (ataque de evasión),,,.

---

II. Puntos Básicos y Críticos para un Uso Responsable y Ético de la IA

La responsabilidad y ética en el uso de la IA se centran en la protección de datos y en el fomento de una ciudadanía digital crítica.

A. Estrategias para la Protección de la Información

1. Conocimiento de Políticas de Privacidad: Antes de usar cualquier herramienta de IA, es fundamental tomarse el tiempo de leer y entender las políticas de privacidad y los términos de uso,. Es necesario indagar qué datos se recolectan, cómo se almacenan y quién tiene acceso a la información.
2. Minimizar Datos Compartidos: Limitar la cantidad de información que se comparte. Se deben compartir solo los datos estrictamente necesarios para el propósito educativo o el uso previsto, y, cuando sea posible, utilizar cuentas de usuario anónimas,.
3. Uso de Herramientas Seguras: Al elegir una herramienta, se debe verificar que utilice encriptación para proteger los datos y que cuente con buenas prácticas de seguridad, como la autenticación en dos pasos.
4. Consentimiento Informado: Es crucial obtener el consentimiento de los estudiantes o de sus padres (en el caso de menores). El consentimiento informado implica que todos comprendan claramente qué información se recolecta, por qué y cómo se utilizará,,.

B. Fomento de la Ciudadanía Digital Crítica y Ética

1. Educación en Privacidad Digital: La educación en seguridad digital es esencial. Se debe enseñar a los estudiantes a ser conscientes de la importancia de proteger su información en línea y a identificar señales de peligro.
2. Verificación Cruzada de Fuentes: Los usuarios deben utilizar los asistentes virtuales como un complemento, no como sustituto del aprendizaje, y siempre verificar la información con otras fuentes confiables para mantener el pensamiento crítico y la capacidad de análisis propia,.
3. Combate al Sesgo Algorítmico: Es importante desarrollar sistemas de IA mediante un diseño inclusivo que involucre equipos de trabajo diversos para identificar sesgos, y utilizar datos diversos y representativos para el entrenamiento. La transparencia y la explicación del funcionamiento del algoritmo son cruciales para generar confianza.
4. Cultura de Vigilancia y Reporte: Los educadores deben mantenerse vigilantes y asegurarse de que el uso de la IA sea consciente y seguro. Los ciudadanos deben estar informados de que todo aquello que comprometa su seguridad debe ser reportado,.

---

III. Qué es Blockchain y Para Qué se Usa

A. ¿Qué es Blockchain?

Blockchain (o cadena de bloques) es una tecnología que actúa como un libro de contabilidad inmutable y compartido (un registro distribuido o DLT) que almacena información de forma descentralizada y segura,,,. Originalmente, esta tecnología vio la luz en 2008 y se utilizó para implementar el protocolo de Bitcoin.

Sus propiedades fundamentales son:

• Descentralización: En lugar de residir en un único servidor controlado por una entidad central (como un banco), la información se distribuye en miles de ordenadores (llamados nodos) alrededor del mundo. Esto elimina la necesidad de un intermediario de confianza,,.
• Inmutabilidad: Los datos se agrupan en bloques que están encadenados cronológicamente entre sí mediante referencias criptográficas (hashing),. Una vez que un bloque es validado y añadido a la cadena, no puede ser alterado o borrado sin invalidar todos los bloques posteriores, lo que hace el registro fiable y a prueba de manipulaciones,,,.
• Consenso: La red de nodos utiliza mecanismos de consenso, como Proof-of-Work (PoW) o Proof-of-Stake (PoS), para lograr un acuerdo unánime sobre la adición y el estado de los nuevos datos,,.

B. ¿Para Qué se Usa Blockchain?

Aunque la aplicación más conocida de Blockchain es el Bitcoin y las criptomonedas,,, esta tecnología tiene un potencial disruptivo en diversos ámbitos, especialmente en aquellos que requieren transparencia y un registro inalterable,.

1. Contratos Inteligentes (Smart Contracts): Son códigos auto-ejecutables que residen en la blockchain y permiten automatizar procesos comerciales de forma segura y transparente si se cumplen condiciones predefinidas (lógica IF-THEN),,,.
2. Educación y Credenciales: Se utiliza para la certificación segura e inalterable de credenciales académicas, lo que hace que los títulos sean prácticamente imposibles de falsificar y facilita su verificación instantánea y confiable a nivel global,,.
3. Trazabilidad y Logística: Permite la gestión transparente de la cadena de suministro y el seguimiento de transportes, ya que todas las partes involucradas pueden acceder al registro inmutable de transacciones y estados de envío, reduciendo costos y fraudes,.
4. Seguridad de Datos y Auditoría: Proporciona robustez y seguridad a grandes sistemas de datos (Big Data), ya que permite trazar individualmente todas las acciones realizadas sobre los datos, resultando en una auditoría constante,,,.
5. Prueba de Existencia: Permite generar una prueba segura, pública y verificable de que una información (documento, diseño, etc.) existía en un momento determinado, al almacenar su hash criptográfico en la cadena,.
6. Finanzas: Además de las criptomonedas, facilita pagos seguros y transferencias transfronterizas eficientes al eliminar intermediarios,.

El concepto de deepfake se refiere a sofisticadas falsificaciones digitales (ya sean imágenes, videos o audios) generadas mediante el uso de Inteligencia Artificial (IA). El término es una combinación de «deep learning» (aprendizaje profundo) y «fake» (falso).

Estas falsificaciones son hiperrealistas y pueden ser indistinguibles del contenido auténtico. Su propósito es suplantar la apariencia o la voz de una persona, utilizando aprendizaje automático avanzado (ML) para emular meticulosamente a individuos reales.

Mecanismo y Origen

1. Tecnología Base: La tecnología deepfake se originó en 2017 para referirse específicamente a medios sintéticos donde el parecido de una persona se superpone al cuerpo de otra en diversos escenarios.
2. Funcionamiento: La creación de deepfakes se basa en el análisis de grandes cantidades de datos de la víctima para generar una imitación convincente. Esto se logra mediante una compleja competencia entre dos redes neuronales: una red generadora que produce el contenido sintético, y una red discriminadora que intenta distinguir el contenido real del falso. Este ciclo de refinamiento da como resultado un producto completamente convincente. Las técnicas utilizadas tienen sus raíces en el desarrollo de las Redes Neuronales Generativas Antagónicas (GAN).

Tipos de Deepfakes

Los deepfakes se clasifican según el tipo de contenido manipulado:

• Deepfakes de Vídeo: Alteran o reemplazan la cara de una persona en un video, creando imágenes falsas de situaciones que nunca ocurrieron.
• Deepvoices (Audio): Utilizan IA para clonar la voz de una persona y hacer que diga cosas que nunca dijo.
• Deepfaces (Imágenes): Creación de imágenes convincentes, pero completamente falsas, generadas desde cero mediante aprendizaje automático.
• Deepfakes en tiempo real: Son los más complejos, ya que combinan técnicas de video y audio para suplantar a alguien en tiempo real, por ejemplo, en videollamadas.

Riesgos Principales

El fenómeno de los deepfakes plantea un gran desafío para la sociedad, ya que rompe la confianza en lo que se ve y se escucha.

• Crisis de Confianza: La sofisticación de estas falsificaciones destruye la base de la comunicación institucional y personal, ya que el video y el audio ya no sirven como prueba confiable.
• Desinformación y Propaganda: Se utilizan para difundir información falsa, manipular la percepción pública e influir en los resultados políticos.
• Fraude Financiero y Corporativo: Incluyen el Fraude del CEO, donde un impostor utiliza un deepfake de un ejecutivo en una videollamada para solicitar transacciones financieras no autorizadas, como ocurrió en un intento de estafa millonaria a la empresa Arup.
• Daño Moral y Explotación: Se usan para la manipulación no consensuada con fines de acoso, chantaje, y la creación de contenido de abuso sexual infantil.

Esta publicación de material divulgativo es parte del Proyecto Estratégico IAFER-Cib (C074/23), fruto del convenio de colaboración suscrito entre el Instituto Nacional de Ciberseguridad (INCIBE) y la Universidad de Granada. Esta iniciativa se lleva a cabo en el marco de los fondos del Plan de Recuperación, Transformación y Resiliencia, financiados por la Unión Europea (Next Generation).

#ProyectosCiber #PlanDeRecuperación #NextGenerationEU