La inteligencia artificial y sus riesgos en la salud mental de los menores

La sociedad podría repetir con la inteligencia artificial (IA) los errores cometidos anteriormente con las redes sociales y internet en general, advierte hoy The Lancet. Cuando se estudien científicamente sus efectos, principalmente en la salud mental de los menores, los jóvenes ya habrán adoptado esta nueva tecnología. Karen L Mansfield, psicóloga de la Universidad de Oxford, advierte que si no se aprenden de las experiencias pasadas, podríamos enfrentar un nuevo ciclo de pánico mediático dentro de diez años. Además, uno de los riesgos ya existentes es que uno de cada 12 niños sea víctima de abusos o explotación sexual cada año en el mundo.

Impacto de internet y la supervisión parental

Jorge B., conocido en la red como @NoobInTheNet, explica que en internet se puede encontrar todo tipo de tráfico de cosas malas, que ya existían antes pero que se han potenciado con la red. Con la supervisión de sus padres y la guía de la empresa de ciberseguridad Kaspersky, pudo evitar los caminos oscuros. Ahora, a sus 21 años, trabaja en el área informática de una multinacional aseguradora.

Lo peor que te puedes encontrar en internet no está en una red profunda difícil de encontrar. La mejor forma de esconder algo es dejarlo a la vista de todo el mundo

Jorge B., @NoobInTheNet

Peligros de la IA para los menores

Entre los peligros más habituales de la IA, Jorge B. destaca la suplantación de identidad mediante contenidos falsos, algo que afecta principalmente a niñas y jóvenes. La investigación de Mansfield también señala ejemplos que impactan en la salud mental, especialmente las funciones similares a las humanas como los agentes de IA y los deepfakes, que pueden influir en las emociones y el comportamiento de los niños.

Además, hay herramientas de diagnóstico en línea para la depresión, la ansiedad o los trastornos alimentarios que se usan cada vez más para el autodiagnóstico. Mansfield advierte sobre la diversidad de beneficios y daños potenciales de la IA en comparación con las redes sociales y los juegos en línea.

Al personalizar los contenidos que ven y sugerir interacciones, la IA puede exponer a niños y adolescentes a materiales inadecuados o grupos online que promuevan actividades ilegales

Marc Rivero, Lead Security Researcher de Kaspersky

Educación y supervisión como medidas esenciales

Marc Rivero, investigador de seguridad de Kaspersky, subraya que la IA está transformando la experiencia digital de niños y adolescentes, pero también puede tener un impacto negativo en su salud mental y emocional. Destaca la importancia de la educación digital temprana y el uso de herramientas de supervisión adecuadas. El objetivo es enseñar a los menores a navegar de forma segura en el mundo digital.

Abusos de menores y la irrupción de la IA

Una de las peores lacras de la red son los abusos sexuales. Según una investigación liderada por Deborah Fry, profesora de la Universidad de Edimburgo y publicada en The Lancet, uno de cada 12 niños en el mundo sufre explotación o abuso sexual.

Fry advierte que las nuevas tecnologías basadas en avances en IA están cambiando la forma en que los jóvenes interactúan con la tecnología. Los límites de tiempo y de edad para acceder a aplicaciones no son suficientes. La responsabilidad recae en los padres y tutores o en tecnologías no probadas que presentan riesgos para la privacidad.

Falta de datos uniformes y homogéneos

Los investigadores apuntan a la falta de datos uniformes para abordar el problema global de los abusos y delitos sexuales en internet. Ni siquiera hay unidad de criterio en su consideración.

Todos los especialistas coinciden en la importancia de la formación, información e investigación para acceder a los recursos de la IA con las mayores defensas posibles. Sin estas acciones, las regulaciones o prohibiciones posteriores son ineficaces.