Google prepara IA para combatir el abuso sexual infantil

Por en Inteligencia Artificial

La compañía indicó que su tecnología de IA de vanguardia utiliza redes neuronales profundas para el procesamiento de imágenes para ayudar a descubrir y detectar material de abuso sexual infantil en línea.

Inscríbase en nuestros newsletters

El gigante tecnológico estadounidense Google anunció que utilizará una nueva tecnología de inteligencia artificial (IA) para combatir la difusión en línea de contenidos que involucran abuso sexual infantil.

Google dijo que su tecnología de IA de vanguardia utiliza redes neuronales profundas para el procesamiento de imágenes para ayudar a descubrir y detectar material de abuso sexual infantil en línea (CSAM).

La nueva herramienta basada en redes neuronales profundas estará disponible de forma gratuita para organizaciones no gubernamentales y otros "socios de la industria", incluyendo otras compañías tecnológicas, mediante un nuevo servicio de Interfaz de Programa de Aplicación (API) de Seguridad de Contenido que será ofrecido por solicitud.

"Utilizar el internet como una forma de propagar contenido que explota sexualmente a los niños es uno de los peores abusos imaginables", escribieron en el blog oficial de la compañía el ingeniero en jefe de Google Nikola Todorovic y el gerente de productos Abhi Chaudhuri.

La nueva tecnología de IA ayudará de forma significativa a los proveedores de servicios, organizaciones no gubernamentales y otras empresas tecnológicas a mejorar la eficiencia de detección de CSAM y reducir la exposición de los revisores humanos a tal contenido, dijeron los dos miembros de Google.

"La rápida identificación de nuevas imágenes significa que es más probable que los niños que sean víctimas de abuso sexual en la actualidad sean identificados y protegidos de más abusos", señalaron.

"Hemos visto de primera mano que este sistema puede ayudar a un revisor a encontrar y emprender acciones sobre 700% más de contenido CSAM en el mismo período", añadieron.

Muchas compañías tecnologías ahora están dispuestas a apalancar la IA para detectar varios tipos de contenidos de CSAM como desnudez y comentarios abusivos y el anuncio de Google representa su nuevo compromiso de combatir contenidos CSAM en línea compartiendo "los más recientes avances tecnológicos".

Google ha estado cooperando con algunos de sus socios para combatir el abuso sexual infantil, incluyendo la Fundación Internet Watch con sede en Reino Unido, la Coalición Tecnológica y la Alianza Global WePROTECT, así como con otras organizaciones no gubernamentales.

Comentarios