Instagram utiliza la Inteligencia Artificial para detectar menores que mienten sobre su edad

Instagram, la popular plataforma de fotos y videos propiedad de Meta Platforms, ha comenzado a implementar pruebas de inteligencia artificial (IA) para determinar si los usuarios menores de edad están mintiendo sobre su fecha de nacimiento al registrarse en la aplicación. Esta nueva medida busca reforzar la seguridad y privacidad de los usuarios más jóvenes en la plataforma.

Meta ha confirmado que ya utiliza IA para estimar la edad de los usuarios desde hace algún tiempo. Sin embargo, esta nueva iniciativa permitirá a Instagram buscar “proactivamente” cuentas que la plataforma sospeche pertenecen a adolescentes, incluso si al crear su perfil ingresaron una fecha de nacimiento incorrecta.

En caso de que la IA determine que un usuario ha falseado su edad, la cuenta se convertirá automáticamente en una cuenta de adolescente. Estas cuentas cuentan con una serie de restricciones diseñadas para proteger a los menores. Por ejemplo, las cuentas de adolescentes son privadas por defecto, lo que limita quién puede ver sus publicaciones e historias. Además, la mensajería privada está restringida, permitiendo que los adolescentes solo reciban mensajes de personas a las que siguen o con las que ya están conectados.

La compañía también indicó que se limitará el “contenido sensible” que se muestra a los adolescentes, incluyendo videos de peleas o contenido que promueva procedimientos estéticos. Asimismo, la plataforma implementará notificaciones para los adolescentes que pasen más de 60 minutos al día en Instagram y activará un “modo de sueño” que silenciará las notificaciones y enviará respuestas automáticas a los mensajes directos entre las 10 de la noche y las 7 de la mañana.

Meta explica que su IA está entrenada para analizar diversas señales que pueden indicar la edad real de un usuario. Estas señales incluyen el tipo de contenido con el que interactúa la cuenta, la información proporcionada en el perfil y la fecha en que se creó la cuenta.

Estas medidas reforzadas se producen en un contexto de creciente escrutinio sobre el impacto de las redes sociales en la salud mental y el bienestar de los usuarios jóvenes. Un número cada vez mayor de estados también está intentando aprobar leyes de verificación de edad para el acceso a plataformas en línea, aunque estas iniciativas han enfrentado desafíos legales.

Meta y otras empresas de redes sociales han expresado su apoyo a que las tiendas de aplicaciones asuman la responsabilidad de verificar la edad de los usuarios, en respuesta a las críticas sobre la insuficiencia de sus propios esfuerzos para proteger a los niños y garantizar que los menores de 13 años no utilicen sus plataformas.

Además de la detección automática por IA, Instagram también comenzará a enviar notificaciones a los padres con información sobre cómo pueden tener conversaciones con sus hijos adolescentes sobre la importancia de proporcionar la edad correcta en línea y los riesgos asociados con la información falsa.