En una medida que parece enfocarse en la creciente preocupación por la ética y la privacidad en el uso de tecnologías avanzadas, Microsoft ha decidido actualizar los términos de su servicio Azure OpenAI Service. Este cambio impide de manera explícita que los departamentos de policía en Estados Unidos empleen esta tecnología para el reconocimiento facial. La decisión de Microsoft responde a un contexto en el que la aplicación de la inteligencia artificial en entornos de aplicación legal y de seguridad pública ha sido objeto de un intenso debate y escrutinio. La actualización específica que está prohibido el uso de la inteligencia artificial generativa para reconocimiento facial en cámaras móviles, tales como cámaras corporales y dashcams, en ambientes incontrolados o «en la naturaleza». Estas cámaras, utilizadas frecuentemente por los oficiales de policía, ahora no podrán emplear tecnologías de IA de Microsoft para identificar rostros en tiempo real, una práctica que ha levantado amplias preocupaciones sobre la privacidad. Este cambio se produce luego de la revelación de un nuevo producto de Axón, conocido fabricante de tecnología para fuerzas de seguridad, que integraba el modelo generativo GPT-4 de OpenAI para resumir audios captados por cámaras corporales. Esta integración fue criticada por los riesgos de generar información incorrecta especialmente preocupante debido a los sesgos raciales que podrían replicarse o amplificarse dada la tendencia a detener con mayor frecuencia a personas de color.
Microsoft prohibe el reconocimiento facial con su IA por parte de la policia
0
Share.