Google estaría preparando un nuevo sistema de seguridad en Gemini que avisaría a los padres cuando sus hijos menores de edad mantengan conversaciones relacionadas con las autolesiones. El hallazgo procede de la versión 17.73.15.sa.arm64 de la app de Google para Android, donde han aparecido cadenas de texto que apuntan a esta función todavía en desarrollo. Hasta ahora, Gemini se limitaba a filtrar sus respuestas con menores, sin informar a las familias sobre el contenido de esas charlas.
Os contamos el hallazgo tal y como lo ha adelantado Android Authority, que ha revisado el código de la última actualización de la aplicación de Google para Android y ha localizado dos cadenas de texto reveladoras sobre el funcionamiento de este mecanismo. El cambio que se avecina no es menor: supondría pasar de un filtrado pasivo de las respuestas de la inteligencia artificial a una notificación activa hacia los tutores legales cuando el sistema detecte una conversación de riesgo real para el menor.
Alertas parentales prepara Gemini por autolesiones
Gemini ya filtra sus respuestas cuando identifica que conversa con un menor de edad, pero hasta ahora no existía ningún canal para que los padres conocieran el contenido de esas charlas. Los textos localizados en el código apuntan a un cambio: la aplicación notificaría de forma automática a la familia si detecta mensajes relacionados con hacerse daño.
Vemos aquí un salto respecto al sistema actual, que se limita a moderar lo que el chatbot puede decirle a un menor sin informar en ningún momento de lo que el propio menor escribe. Hasta ahora, Family Link permitía a los padres activar o desactivar el acceso de sus hijos a Gemini, pero no ofrecía ninguna información sobre el contenido real de las conversaciones que mantenían con la aplicación. La función detectada se suma a otras herramientas de seguridad infantil que Google aplica en sus productos para menores de edad.
Qué dicen los textos visto en la nueva versión de la IA
Las cadenas descubiertas en la versión 17.73.15.sa.arm64 de la app de Google son «Las notificaciones de seguridad están activadas» y «Tus padres recibirán una notificación si Gemini detecta conversaciones relacionadas con hacerte daño a ti mismo». Ambas aparecen en inglés en el código original de la aplicación, señal de que la función todavía se encuentra en fase de desarrollo interno y no ha llegado al público.
Estas cadenas solo muestran la cara visible para el menor: el aviso previo de que sus padres serán notificados. Android Authority no ha encontrado todavía evidencias del lado parental de la función, de modo que se desconoce cómo será el mensaje que recibiréis los padres: por correo, notificación push en Family Link o dentro de la propia aplicación. Conviene recordar, además, que un hallazgo en el código de una versión en desarrollo puede modificarse, retrasarse o no llegar nunca a la versión estable.
Gemini protege a los menores con Family Link
Podéis gestionar hoy el acceso de vuestros hijos a Gemini a través de Family Link, la herramienta de control parental de Google. Desde ahí podéis activar o desactivar el acceso del menor a la aplicación y acompañarle mientras la usa para tareas como resolver dudas escolares o generar ideas creativas.
Google añade además filtros propios en las respuestas dirigidas a menores de edad, pensados para que Gemini no se presente como un amigo ni genere vínculos emocionales con quien lo usa. La propia compañía advierte de que esos filtros intentan limitar el contenido inapropiado, pero reconoce que no son perfectos y que el menor puede toparse con contenido no deseado pese a las restricciones activas. La guía oficial para familias insiste, además, en recordar a los hijos que no deben compartir datos sensibles, como su dirección o el nombre de su colegio, en los chats con la aplicación.
Este desarrollo no llega en el vacío. Los chatbots de inteligencia artificial acumulan polémicas por sus interacciones con adolescentes, y el asunto ya ha llegado a los tribunales. Bloomberg informaba esta semana de una demanda que acusa al modo de inteligencia artificial de Google Search de haber hablado de suicidio con una adolescente sin advertir a sus padres.
Google refuerza la seguridad de Gemini
A ese caso se suma el recuerdo de la demanda contra OpenAI por la muerte de un adolescente tras una sobredosis, conocida a principios de este año. Google no ha vinculado de forma oficial el desarrollo de estas alertas con ninguno de los dos procesos judiciales, pero la presión legal y social sobre el sector nos ayuda a entender por qué la compañía trabaja en reforzar la seguridad infantil dentro de sus asistentes de inteligencia artificial. El contraste resulta llamativo: mientras ese litigio se centra en la falta de aviso a las familias, la función detectada en Gemini apunta justo en la dirección contraria.
Hay una duda razonable sobre el diseño de esta función: avisar al menor de que sus padres van a ser notificados podría producir el efecto contrario al buscado. Si el adolescente sabe de antemano que su confesión llegará a casa, podría optar por no compartirla en ningún momento.
El riesgo, en ese caso, sería que el chaval oculte sus problemas de salud mental por miedo a la reacción familiar, dejando a los padres fuera del problema real justo en el momento en que más lo necesitan. Nos encontramos ante un dilema habitual en las herramientas de seguridad infantil: cuanto más visible es el control, mayor es el riesgo de que el menor deje de confiar en la herramienta para pedir ayuda. Google no ha explicado todavía si existe algún mecanismo pensado para mitigar ese efecto disuasorio antes de que la función llegue a la versión estable de Gemini.
Android Authority ha encontrado además indicios de que Gemini trabaja en paralelo en nuevos límites de tiempo de uso para las cuentas de menores. Ninguna de las dos funciones, ni las alertas por autolesiones ni los límites horarios, cuenta todavía con fecha de lanzamiento ni ha sido confirmada de forma oficial por Google.