Amazon Rekognition, el criticado sistema que puede detectar el miedo

Según la empresa, su servicio Amazon Rekognition "proporciona un conjunto completo de características de detección, análisis y reconocimiento facial para analizar imágenes y videos" y esta semana anunció la introducción de "mejoras de precisión y funcionalidad" en sus sistema.

El análisis facial de Amazon detecta género, franja etaria, emociones; atributos (como “sonrisa”), expresión facial, calidad de la imagen facial y puntos de referencia del rostro. Las nuevas actualizaciones anunciadas son:

• Mayor precisión de la identificación de género.
• Optimización en la detección de las siete emociones establecidas en el sistema (felicidad, tristeza, enojo, sorpresa, disgusto, calma y confusión).
• Mejor precisión del cálculo de franja etaria; ahora se ofrecen rangos etarios más específicos.
• Se agregó una nueva emoción a la lista: el miedo.

Justamente la última es la que ha causado mayor impacto y criticas, sobre todo por parte de activistas. Según ellos, esto puede afectar a los migrantes de la frontera sur de Estados Unidos, donde se usa este sistema de Amazon, y las agencias de aplicación de la ley realizan redadas masivas y separan familias.

Consideran que Amazon Rekognition puede ser perjudicial en manos de agencias gubernamentales como Inmigración y Aduanas (ICE) y Patrulla Fronteriza (CBP).

Sin embargo, un reciente estudio que analizó más de 1.000 artículos académicos sobre el reconocimiento de emociones reveló que la técnica es "profundamente defectuosa", ya que no existe una correlación lo suficientemente fuerte entre las expresiones faciales y las emociones humanas reales.

A esto se suman otras críticas de expertos que aseguran que estos sistemas no son confiables.

El reconocimiento facial consiste en entrenar a un sistema de aprendizaje automático para buscar ciertas características en un rostro que indican contenido emocional. Así, los labios estirados pueden revelar una sonrisa o los ojos más abiertos asombro.