Esta nueva IA, llamada Rosetta, tiene como objetivo identificar el contenido de imágenes y memes, entendiendo su contexto, con el fin de detectar aquellos textos que violen las políticas de Facebook. os desarrolladores de Facebook mencionan que este proceso está compuesto de dos fases, detección y reconocimiento. Por un lado, Rosetta ha sido entrenada para enfocarse en aquellas zonas de la imagen que suele aparecer el texto, para extraer el contenido. Luego, gracias a la red neuronal, transcribe el texto para pasarlo al equipo humano de moderación. Siguiendo esta dinámica, Rosetta trabaja diariamente con contenido que se comparte en Facebook e Instagram, analizando el texto de mil millones de imágenes y frames de videos. Un detalle interesante es que puede realizar esta dinámica en diferentes idiomas y dialectos. Sin embargo, esto solo es el principio, ya que Facebook asegura que tiene planes de añadir soporte para más idiomas y mejorar está nueva dinámica de detección y extracción de texto. Junto con este informe, Facebook también anunció que la traducción automática se extiende a 24 nuevos idiomas, aunque en algunos casos, se encuentra en etapa inicial y queda mucho trabajo para mejorar la calidad del sistema.
https://wwwhatsnew.com/2018/09/11/facebook-desarrollo-una-ia-que-puede-identificar-memes-ofensivos/