Meta está implementando nuevas funciones impulsadas por inteligencia artificial en Instagram para restringir aún más las cuentas de adolescentes. En una publicación de su blog, la compañía afirma que el objetivo es garantizar que los adolescentes sean ubicados en entornos apropiados, incluso si mienten sobre su edad durante la creación de la cuenta.
Inicialmente, la IA analizaba interacciones y señales específicas, como mensajes relacionados con cumpleaños. Ahora, Meta está ampliando ese esfuerzo anulando las configuraciones manuales en ciertos casos para clasificar y restringir las cuentas de adolescentes. Esta nueva capa de control ajustará automáticamente un perfil sospechoso y lo colocará en la configuración de cuentas para adolescentes.
Las cuentas para adolescentes vienen con varias restricciones: los perfiles son privados de manera predeterminada, los usuarios desconocidos no pueden enviarles mensajes y el contenido que ven es limitado. Meta ahora ha agregado más controles, incluidas restricciones en Instagram Live e imágenes compartidas en mensajes directos. Los menores de 16 años ahora deberán obtener permiso de sus padres antes de transmitir un directo o deshabilitar una función que difumina las nudes enviadas por mensaje.
El clasificador de inteligencia artificial de Meta determina si es probable que los usuarios sean adolescentes o adultos según una combinación de señales. Estos incluyen fechas de creación del perfil, comportamiento de interacción con el contenido y otros datos de participación. La empresa ha desarrollado conjuntos de datos de evaluación haciendo que revisores humanos etiqueten publicaciones anónimas, como mensajes de cumpleaños, para entrenar y probar el rendimiento del modelo de IA.
Antes de implementar el clasificador de edad, Meta prueba su precisión país por país, ajustándose a las variaciones en el comportamiento y el uso de la plataforma. También garantiza que el clasificador funcione bien en diferentes grupos demográficos, incluidos los usuarios nuevos que pueden no tener suficiente historial de interacción. Una vez implementado el sistema, el modelo se vuelve a entrenar periódicamente utilizando datos actualizados para mantener la precisión a lo largo del tiempo.
Meta declaró que los usuarios identificados incorrectamente como adolescentes tendrán la opción de apelar para solicitar cambios en su configuración. Sin embargo, la empresa sostiene que su marco para medir la precisión de la IA es sólido y está en continua evolución. Meta dice que el conjunto de datos se revisa y actualiza para garantizar que el modelo se alinea con el comportamiento del mundo real.
La compañía continuará probando la función en las cuentas de Instagram de Estados Unidos antes de expandirla a otras regiones. El despliegue de la IA como mecanismo de ayuda en la protección de los menores obedece a una presión continua de los reguladores. En 2024, la Comisión Europea abrió una investigación para conocer si Instagram y Facebook generan adicción en los menores de edad.