Advierten sobre uso no autorizado de fotos de menores para entrenar modelos de Inteligencia Artificial

Una investigación de Human Rights Watch encontró más de 150 imágenes de menores de edad brasileños extraídas de redes sociales y YouTube, que se pensaban que tenían limitado su acceso. Por otra parte, se hallaron otras 190 de bebés, niñas y niños australianos que fueron compartidas originalmente bajo estrictas medidas de privacidad.

Human Rights Watch (HRW) lanzó una dura advertencia sobre una nueva problemática relacionada con la Inteligencia Artificial (IA) y sus implicancias sobre los derechos y libertades de los niños y niñas. De acuerdo a un artículo de Infobae, una investigación ha puesto de manifiesto que el conjunto de datos LAION-5B, ampliamente utilizado para el entrenamiento de modelos de IA, contiene imágenes de menores que violan gravemente su privacidad.

El mes pasado, Hye Jung Han, investigadora de HRW reportó a ´Wired´, que identificó que el conjunto de datos LAION-5B incluía 170 fotos de niños brasileños. Las imágenes fueron obtenidas principalmente de blogs personales, redes sociales y videos con escasa visibilidad en YouTube. “Esto es de suma gravedad porque los términos de servicio de YouTube prohíben la recopilación de datos personales sin el consentimiento adecuado, lo que evidencia un ataque directo a estas políticas”, explican.

“La ley brasileña prohíbe el procesamiento de datos personales de niños sin el consentimiento del tutor del niño”, había expresado a ´Fortune´ la investigadora de derechos tecnológicos de los niños y autora del informe. “Mi preocupación más amplia es que esto es solo la punta del iceberg. (…) La carga de responsabilidad no debe recaer en los niños y los padres para tratar de proteger a los niños de una tecnología que es fundamentalmente imposible de proteger. Los padres deberían poder publicar esas fotos de niños para compartirlas con familiares y amigos y no tener que vivir con el miedo de que esas fotos algún día sean utilizadas como armas en su contra”, agregó Han.

Información sensible

En un hallazgo aún más reciente, se encontraron otras 190 imágenes de niños y niñas australianos, incluidas fotos de recién nacidos. Estas imágenes fueron compartidas originalmente bajo estrictas medidas de privacidad, en blogs personales o en redes sociales con acceso limitado.
Algunas incluso provenían de fotógrafos profesionales contratados por familias o instituciones educativas para eventos específicos. La presencia de estas fotos en el conjunto de datos plantea serias preocupaciones sobre la falta de control y autorización en la recopilación de datos personales.
Asimismo, una de las preocupaciones más graves destacadas por HRW es que, las URLs de estas imágenes a menudo contienen información sensible, como nombres y ubicaciones específicas.
HRW ha señalado que su equipo solo pudo revisar una fracción mínima del conjunto de datos, menos del 0,0001% de sus 5.850 millones de imágenes.

Respuesta

En defensa de sus prácticas, LAION, una ONG detrás del conjunto de datos, hizo declaraciones a ´Ars Technica´ que mantienen una política de “tolerancia cero con el contenido ilegal”. No obstante, reconoció que eliminar estas imágenes comprometedoras es un proceso lento y complejo. Además, una vez que los modelos de IA han sido entrenados con estos datos, es imposible “olvidar” la información absorbida, lo que implica que el daño potencial ya está hecho.

En relación a la problemática en términos generales, se conoció recientemente que Meta ha decidido suspender el desarrollo de sus herramientas de inteligencia artificial en la Unión Europea y Brasil debido a preocupaciones regulatorias expresadas por la Comisión de Protección de Datos de Irlanda y la Autoridad de Protección de Datos de Brasil sobre la utilización de los datos de usuarios en Instagram y Facebook.