Desde el uso de chatbots para ayudar con las tareas escolares hasta la creación de arte digital, los niños están utilizando herramientas de inteligencia artificial de forma extensiva, a menudo sin que sus padres se den cuenta, como muestran las estadísticas. Estas herramientas pueden abrir un mundo de posibilidades, ayudando a los niños a aprender, crear y crecer de maneras que no podríamos haber imaginado hace apenas unos años. Pero junto con lo bueno viene la necesidad de ser cautelosos.

La IA también tiene un lado oscuro para el que los niños quizás no estén preparados: los deepfakes. A diferencia de otras aplicaciones de IA, los deepfakes están diseñados para engañar y pueden ser perjudiciales, especialmente para los niños, que podrían no reconocer lo que es real y lo que es falso.

Por eso, los niños necesitan orientación. Necesitan entender cómo aprovechar al máximo las increíbles oportunidades que ofrece la IA y, al mismo tiempo, aprender a mantenerse a salvo y a reconocer los riesgos.

¿Sabías?

• El 70% de los adolescentes en EE. UU. han utilizado herramientas de inteligencia artificial generativa, como ChatGPT, Gemini y DALL-E.
• Cuatro de cada cinco adolescentes en el Reino Unido han utilizado herramientas de inteligencia artificial generativa.
• Más del 50% de los adolescentes encuestados utilizaron generadores de texto de IA y chatbots, el 34% utilizó generadores de imágenes de IA y el 22% utilizó generadores de vídeo.
• El uso más común de la IA fue para tareas escolares, como “ayuda con los deberes” y “lluvia de ideas”. Los adolescentes también utilizan la IA para tareas como traducir contenido entre idiomas y superar el aburrimiento.
• El 20% de los adolescentes utilizó herramientas de IA para bromear con amigos.
• Sólo el 37% de los padres cuyos hijos utilizan herramientas de IA son conscientes de ello.
• Casi el 25% de los padres creían incorrectamente que sus hijos no utilizaban herramientas de IA.
• La mayoría de los padres no han hablado del uso de herramientas de IA con sus hijos.

(Fuentes: Informe de Common Sense Media, Statista , Wired )

¿Qué son los deepfakes?

Los deepfakes son vídeos, imágenes o archivos de audio que se manipulan mediante inteligencia artificial (IA) para crear contenido que parece real pero que es totalmente inventado. El término "deepfake" proviene de la combinación de "aprendizaje profundo", un subconjunto de la IA, con "falsificación". Estas creaciones pueden ser increíblemente realistas, lo que hace que sea difícil incluso para los adultos distinguir entre lo real y lo falso, y mucho menos para los niños.

Por ejemplo, se utilizó una falsificación profunda del actor Tom Hanks en un anuncio publicitario para promocionar un seguro dental, a pesar de que él no tenía ninguna participación en el mismo. De manera similar, celebridades como Keanu Reeves, Tom Cruise y Robert Downey Jr. han tenido cuentas de redes sociales enteras creadas con versiones de ellos mismos generadas por IA.

Lo que es más preocupante es que cualquiera, no solo las celebridades, puede ser el objetivo de los ataques. Una simple foto o video de una persona común y corriente ahora puede transformarse en contenido falso altamente realista, lo que pone a la gente común, incluidos los niños, en riesgo de ser manipulados o tergiversados ​​en línea.

¿Cómo se crean los deepfakes y con qué propósito?

Los deepfakes se crean alimentando a programas de inteligencia artificial (IA) con grandes cantidades de datos, como videos, fotos y grabaciones de audio de una persona. La IA analiza estos datos para aprender patrones (cómo se mueve, habla o mira alguien) y utiliza esa información para generar contenido falso muy convincente.

Si bien algunas personas crean deepfakes por diversión inofensiva, como bromas o proyectos creativos, otras los usan con fines dañinos, como dañar reputaciones, difundir información errónea o explotar a personas. Los niños, que suelen estar activos en línea y carecen de la experiencia para detectar contenido manipulado, son especialmente vulnerables.

Ejemplos de plataformas populares de deepfake

A continuación, se presentan cinco plataformas comúnmente utilizadas para crear deepfakes, que ilustran tanto su atractivo como los riesgos potenciales:

1.     FakeMe. Esta plataforma permite a los usuarios intercambiar rostros fácilmente en los videos, lo que la hace accesible para usuarios ocasionales. Si bien se promociona como una herramienta divertida, se ha utilizado indebidamente para hacer bromas e incluso acoso en línea, lo que genera inquietudes sobre su uso ético.

2.     DeepFaceLab . DeepFaceLab es una herramienta avanzada y gratuita diseñada tanto para aficionados como para profesionales y ofrece amplias capacidades para crear deepfakes convincentes. Su disponibilidad para el público pone de relieve lo accesibles que se han vuelto las potentes herramientas de inteligencia artificial.

3.     Zao . Una aplicación móvil que ganó popularidad al permitir a los usuarios insertar sus rostros en escenas de películas. Si bien es entretenida, ha generado debates sobre la privacidad, ya que la aplicación recopila y procesa imágenes personales.

4.     Reface. Esta aplicación, conocida por crear vídeos y GIF con caras intercambiadas, es muy utilizada por su facilidad de uso y su valor de entretenimiento. Sin embargo, su recopilación de datos de los usuarios ha suscitado preocupaciones sobre la privacidad de los padres y las personas.

5.     MyHeritage Deep Nostalgia. Esta herramienta anima fotos antiguas y les da vida a imágenes históricas o sentimentales. Si bien se suele utilizar con fines emotivos, demuestra el potencial de la IA para manipular imágenes, lo que puede ser preocupante si se aplica de manera poco ética.

Riesgos para los niños: cómo pueden afectarles los deepfakes

Los deepfakes son más que un simple truco digital: pueden suponer graves riesgos para los niños, ya que afectan a su seguridad, privacidad y bienestar emocional. Cuando alguien puede manipular el rostro o la voz de una persona con inteligencia artificial, el potencial de daño es alarmante.

A continuación, se presentan algunos riesgos específicos para los niños:

• Robo de identidad: los deepfakes pueden suplantar el rostro o la voz de un niño, lo que potencialmente permite el acceso a cuentas personales, cometer fraude o manipular a miembros de la familia.
• Ciberacoso: Los deepfakes pueden usarse para crear contenido vergonzoso o humillante sobre un niño, lo que da lugar al acoso en línea.
• Desinformación: Los niños pueden ser engañados por vídeos o imágenes manipuladas, creando confusión sobre la realidad y afectando su comprensión del mundo.
• Violaciones de la privacidad: las fotos o videos personales compartidos en línea pueden explotarse para crear deepfakes, lo que pone a los niños en riesgo de ser suplantados o atacados.
• Daño emocional: Encontrarse con una falsificación profunda de ellos mismos o de alguien en quien confían puede ser profundamente angustiante y causar miedo, confusión o una sensación de traición.

Cómo hablar sobre inteligencia artificial y deepfakes con niños

Las conversaciones abiertas, tranquilas y adecuadas a la edad son las herramientas más poderosas que usted tiene como padre. A continuación, le indicamos cómo abordar este tema de una manera que informe y empodere a su hijo:

1. Empecemos por lo básico

Adapte su explicación sobre la IA y los deepfakes a la edad y el nivel de comprensión de su hijo. Para los niños más pequeños, hágalo simple: "La IA es como un programa informático muy inteligente que ayuda con cosas como encontrar respuestas, hacer dibujos o incluso crear vídeos. Pero a veces, la gente la usa para modificar fotos o vídeos para que parezcan reales cuando no lo son; eso es lo que es un deepfake".

Para niños mayores o adolescentes, puedes ofrecer un poco más de profundidad.

Por ejemplo:

"La inteligencia artificial, o IA, es una tecnología avanzada que puede hacer cosas como responder preguntas, crear arte o incluso hacer videos. Funciona analizando patrones y aprendiendo de los datos. Pero a veces, las personas usan la IA de maneras que no son útiles ni honestas, como crear videos falsos o imágenes que parecen reales, pero no lo son. Estos se denominan deepfakes y pueden usarse para engañar o confundir a las personas".

2.      Explique claramente los riesgos

Una vez que comprendan los conceptos básicos, explíqueles que la IA también puede utilizarse de forma indebida. Comparta ejemplos como un video falso de alguien diciendo o haciendo algo que en realidad no hizo. Haga que la situación sea más cercana al niño diciendo algo como: "Imagina que alguien hiciera un video de ti diciendo cosas que nunca dijiste; podría confundir a las personas o herir tus sentimientos".

3.      Enseñe el pensamiento crítico

Incentive a su hijo a cuestionar lo que ve en línea. Utilice ejemplos para practicar juntos:

• "¿Esto parece demasiado perfecto o extraño?"
• "¿Quién lo publicó? ¿Es de una fuente confiable?"
• "¿Podemos comprobar esto con otro sitio web para ver si es real?"

4.      Mantenga la conversación en marcha

No se trata de una conversación que se lleve a cabo una sola vez. A medida que la tecnología evolucione, conviértalo en un tema habitual. Pregúnteles sobre las nuevas herramientas de las que hayan oído hablar y analícelas juntos para generar confianza.

5.      Establezcan límites juntos

Hable sobre el comportamiento en línea y acuerde reglas para compartir fotos, videos o información personal. Por ejemplo:

• Publica fotos únicamente en grupos privados o con amigos de confianza.
• Evite descargar aplicaciones de intercambio de caras o deepfake.
• Consulte siempre con usted antes de compartir cualquier cosa que le parezca "extraña".

6.      Cree un plan de seguridad

Prepárese para posibles escenarios de deepfake. Por ejemplo:

• Utilice una palabra clave familiar para llamadas de emergencia para confirmar que realmente son ellos.
• Enséñeles a denunciar, bloquear y eliminar mensajes o llamadas sospechosas.
• Practique qué hacer si ve algo perturbador en línea: dígaselo a un adulto de confianza de inmediato.

7.      Sea responsable

Tus acciones importan. Sé cauteloso con las fotos y los videos que compartes de tu hijo en línea. Si es posible, limita el uso compartido a grupos privados o mensajes de texto con miembros de la familia. Demuéstrales que la privacidad es algo que tú también valoras.

Relacionado: El impacto del sharenting. Cómo la identidad digital que creas para tu hijo hoy podría afectar su futuro

8.       Equiparlos con herramientas y conocimientos

Como padre, puede utilizar herramientas como Bitdefender Parental Control para supervisar la actividad en línea de su hijo y asegurarse de que se mantenga seguro. Le permite ver si su hijo descarga o utiliza plataformas de inteligencia artificial o aplicaciones deepfake, lo que le da la oportunidad de abordar los posibles riesgos de forma temprana e iniciar conversaciones importantes sobre la seguridad en línea.

Para protegerlos aún más, exploren juntos herramientas como Scamio y Bitdefender Link Checker. Scamio facilita la verificación de si un correo electrónico, un mensaje de texto o un anuncio en las redes sociales es sospechoso. ¡Pueden usarlo juntos en plataformas como WhatsApp, Facebook Messenger, navegador web o Discord de forma gratuita!

Bitdefender Link Checker es una forma sencilla de verificar si los enlaces son seguros antes de hacer clic en ellos, lo que ayuda a evitar estafas o sitios web dañinos.

Preguntas frecuentes

¿Qué son los deepfakes y por qué son peligrosos para los niños?

Los deepfakes son vídeos, imágenes o archivos de audio creados mediante inteligencia artificial (IA) para crear contenido falso que parezca o suene real. Los deepfakes se pueden utilizar para el acoso cibernético, el robo de identidad, la difusión de información errónea o el aprovechamiento de fotos personales, lo que dificulta que los niños sepan qué es real y qué es falso en Internet.

¿Cómo pueden los padres proteger a sus hijos de los deepfakes?

Herramientas como Bitdefender Parental Control permiten a los padres rastrear la actividad en línea de sus hijos, incluidas las aplicaciones descargadas o el uso de plataformas de inteligencia artificial. Para mayor protección, los padres pueden usar Scamio para analizar correos electrónicos, mensajes de texto y anuncios en redes sociales en busca de estafas o deepfakes.  Bitdefender Link Checker ayuda a verificar la seguridad de los enlaces, lo que reduce el riesgo de contenido dañino.

¿Qué deben hacer los padres si su hijo es víctima de un deepfake?

Informa del contenido a la plataforma en la que aparece y solicita su eliminación. Guarda cualquier prueba, como capturas de pantalla o enlaces, por si fuera necesario tomar medidas adicionales. Utiliza herramientas como Scamio para analizar el contenido sospechoso y confirmar su autenticidad. También puedes ponerte en contacto con las autoridades locales o con profesionales de la ciberseguridad para obtener ayuda. Lo más importante es que hables con tu hijo para tranquilizarlo y ayudarlo a comprender la situación, enfatizando que no es su culpa. El uso proactivo de herramientas como Bitdefender Parental Control puede ayudar a prevenir incidentes similares en el futuro.

Fuente: Bitdefender Central