Google estaría desarrollando un chatbot de IA «Gemini para Niños»
Google se encuentra en fase de pruebas de un nuevo asistente de inteligencia artificial denominado “Gemini para Niños”, orientado específicamente a menores de 13 años, según información reciente. Esta noticia surge en un contexto donde la Comisionada de la Infancia de Inglaterra, Dame Rachel de Souza, ha expresado preocupación por la tendencia de los niños a recurrir a chatbots en línea en busca de respuestas, en lugar de consultar a sus padres.
Actualización: Preocupaciones sobre seguridad infantil se intensifican
Las inquietudes sobre la seguridad infantil cobran fuerza mientras senadores estadounidenses solicitan información a creadores de chatbots de IA.
Se ha señalado que los menores ya están utilizando chatbots para obtener consejos. La Comisionada indicó: “Si deseamos que los niños experimenten la vida en toda su plenitud, la alegría de la infancia, la inocencia de la juventud, debemos demostrar que les responderemos más rápido que Chat GPT”.
Por consiguiente, los planes de Google para crear una versión de Gemini adaptada a niños podrían considerarse una alternativa responsable para gestionar el uso de asistentes de IA por parte de los menores, otorgando el control a los padres, en lugar de intentar prevenir su uso por completo.
La Transición a Google Gemini es Inevitable
Google está en proceso de sustituir su Asistente de Google original (sin IA) por Gemini. La compañía ya cuenta con políticas que permiten a los padres restringir el uso del asistente original por parte de sus hijos. No obstante, una vez que el asistente original desaparezca, la única opción será utilizar su reemplazo basado en IA. Esto implica que los usuarios más jóvenes requerirán protecciones similares al migrar a Gemini.
Sin embargo, Gemini es fundamentalmente distinto al Asistente de Google y considerablemente más potente. Gemini interactúa de manera más similar a una conversación con una persona real que a un robot preprogramado, lo que incrementa significativamente el potencial de desinformación y contenido inapropiado. Por ello, Google debe implementar salvaguardas adicionales.
Como se detalla más adelante, los cambios propuestos en la aplicación de Google para Android incluyen una advertencia explícita para niños: “Gemini no es humano y puede cometer errores, incluso sobre personas, así que verifica la información”. La cuestión crucial aquí es si los niños poseen las habilidades de pensamiento crítico necesarias para verificar las respuestas de Gemini, una preocupación menor con el Asistente de Google.
Google Prepara un Chatbot de IA Gemini Específico para Niños
Los planes de Google para un “Gemini para Usuarios Infantiles” fueron descubiertos recientemente por el especialista en aplicaciones Android AssembleDebug, en colaboración con Evox News. El informe encontró código inactivo dentro de la última versión de la aplicación de Google para Android que contenía referencias a funcionalidades para niños, incluyendo la posibilidad de crear historias, hacer preguntas, obtener ayuda con tareas y una advertencia clave: «Gemini no es humano y puede cometer errores, incluso sobre personas, así que verifica la información». También se mencionan la aplicación de los Términos de Google y el procesamiento de datos según la Política de Privacidad de Google y el Aviso de Privacidad de las Aplicaciones Gemini.
Gemini para Niños: Un Primer Paso Vital
Dado que “Gemini para Niños” aún no se ha lanzado al público, es prematuro determinar la efectividad con la que Google implementará estas importantes salvaguardas. No obstante, otorgar control a los padres es un primer paso esencial. La integración de estas protecciones con el sistema establecido de controles parentales de Google podría dar a Gemini una ventaja sobre chatbots competidores, como ChatGPT, que actualmente carece de esta capacidad.
La creciente prevalencia de la IA sugiere que probablemente no será posible mantener a los niños completamente alejados de ella. Los esfuerzos de Google deberían considerarse un paso positivo para evitar algunos de los escenarios adversos señalados por Dame Rachel de Souza.
Puede encontrar el aviso de privacidad completo de las aplicaciones Gemini en el Centro de Privacidad de las Aplicaciones Gemini de Google.
Google Gemini para Niños: Crecen las Preocupaciones
Actualización: La planificada actualización “Gemini para Niños” de Google resulta tanto oportuna como esencial a la luz de desarrollos recientes.
La necesidad de la actualización de Gemini adaptada a niños se intensifica mientras los senadores estadounidenses Alex Padilla y Peter Welch solicitan formalmente a los sitios de chatbots de IA Character.ai y Replika.com que proporcionen información sobre sus medidas de seguridad, según reportes.
“Escribimos para expresar nuestras preocupaciones sobre los riesgos para la salud mental y la seguridad que enfrentan los usuarios jóvenes de aplicaciones de chatbots y compañeros de IA basados en personajes y personas”, señalaron los senadores.
Sus demandas surgen después de que Character.ai fuera objeto de escrutinio por parte de padres que creen que sus hijos sufrieron daños graves tras usar el chatbot, indican los informes.
Como asistente de IA de propósito general, Gemini de Google se encuentra en una categoría diferente a productos como Character.ai y Replika, diseñados para imitar personajes y compañeros personalizados y humanoides. Sin embargo, las salvaguardas para niños siguen siendo vitales, ya que tanto adultos como niños están expuestos a cantidades crecientes de información generada por IA que deposita en el usuario la responsabilidad de realizar su propia verificación diligente de hechos, algo para lo que los niños no están preparados.
Es importante notar que Character.ai prohíbe expresamente el uso por menores de 13 años (menores de 16 en la UE) y ha retirado desde entonces los chatbots ofensivos de la plataforma. La aplicación Replika tiene una restricción de edad de 18 años o más. Sin embargo, ambas aplicaciones muestran actualmente solo una calificación de Orientación Parental en la Play Store de Android, acumulando cada una más de 10 millones de descargas.
Insights de Evox News: Cómo [el desarrollo de Gemini para Niños] puede impactar tu negocio
La iniciativa de Google de crear una versión de su IA Gemini específica para niños presenta varias implicaciones significativas para las empresas:
Nuevas Oportunidades de Mercado: Abre un nicho de mercado considerable en tecnología educativa y entretenimiento digital seguro para niños. Las empresas pueden explorar el desarrollo de aplicaciones, contenidos y servicios complementarios que se integren o compitan en este espacio emergente, priorizando la seguridad y el valor pedagógico.
Ventaja Competitiva y Confianza de Marca: Para Google, ofrecer una IA con controles parentales robustos puede ser un diferenciador clave frente a competidores, generando confianza entre los padres, un segmento de consumidores crucial. Para otras empresas, esto eleva el estándar de seguridad esperado en productos digitales dirigidos a menores, impulsando la necesidad de invertir en salvaguardas similares para mantener la competitividad y la reputación.
Impulso a la Innovación en IA Ética y Segura: El desarrollo de «Gemini para Niños» probablemente estimulará la innovación en áreas como el filtrado de contenido adaptativo, el diseño de interacciones de IA apropiadas para la edad, y tecnologías de verificación y control parental más sofisticadas. Las empresas que inviertan en estas áreas podrían encontrar nuevas vías de crecimiento y liderazgo tecnológico, no solo en el sector infantil, sino en la aplicación más amplia de IA responsable.
Consideraciones Económicas y de Datos: Si bien representa una oportunidad de crecimiento, también implica mayores costos de desarrollo y moderación para asegurar el cumplimiento normativo y ético. La recopilación y uso de datos de menores es extremadamente sensible, requiriendo políticas de privacidad impecables y transparentes. Las empresas deben sopesar cuidadosamente el potencial de ingresos (posibles modelos de suscripción, valor educativo) frente a las inversiones y los riesgos reputacionales y legales asociados
