Clearview AI tiene avivó la controversia raspando la web en busca de fotos y aplicando reconocimiento facial para dar a la policía y a otras personas una capacidad sin precedentes para observar nuestras vidas. Ahora el director ejecutivo de la empresa quiere utilizar inteligencia artificial para hacer que la herramienta de vigilancia de Clearview sea aún más poderosa.

También puede hacerlo más peligroso y propenso a errores.

Vista clara ha recopilado miles de millones de fotos de sitios web que incluyen Facebook, Instagram, y Gorjeo y utiliza IA para identificar a una persona en particular en imágenes. Los agentes de la policía y del gobierno han utilizado la base de datos de rostros de la compañía para ayudar a identificar a los sospechosos en las fotos vinculándolos a perfiles en línea.

El cofundador y director ejecutivo de la empresa, Hoan Ton-That, le dice a WIRED que Clearview ha recopilado más de 10 mil millones de imágenes de toda la web, más del triple de lo que se informó anteriormente.

Ton-That dice que el grupo más grande de fotos significa que los usuarios, la mayoría de las veces las fuerzas del orden, tienen más probabilidades de encontrar una coincidencia cuando buscan a alguien. También afirma que el conjunto de datos más grande hace que la herramienta de la empresa sea más precisa.

Clearview combinó técnicas de rastreo web, avances en aprendizaje automático que han mejorado el reconocimiento facial y un desprecio por la privacidad personal para crear una herramienta sorprendentemente poderosa.

Ton-That demostró la tecnología a través de una aplicación de teléfono inteligente al tomar una foto del reportero. La aplicación produjo docenas de imágenes de numerosos sitios web estadounidenses e internacionales, cada uno de los cuales muestra a la persona correcta en imágenes capturadas durante más de una década. El atractivo de una herramienta de este tipo es obvio, pero también lo es la posibilidad de que se utilice incorrectamente.

Las acciones de Clearview provocaron indignación pública y un debate más amplio sobre las expectativas de privacidad en una era de teléfonos inteligentes, redes sociales e inteligencia artificial. Los críticos dicen que la empresa está erosionando la privacidad personal. La ACLU demandó a Clearview en Illinois bajo una ley que restringe la recopilación de información biométrica; la empresa también enfrenta demandas colectivas en Nueva York y California. Facebook y Twitter han exigido que Clearview deje de raspar sus sitios.

El retroceso no ha disuadido a Ton-That. Dice que cree que la mayoría de la gente acepta o apoya la idea de utilizar el reconocimiento facial para resolver delitos. “Las personas que están preocupadas por eso son muy vocales, y eso es algo bueno, porque creo que con el tiempo podremos abordar cada vez más sus preocupaciones”, dice.

Algunas de las nuevas tecnologías de Clearview pueden generar más debates. Ton-That dice que está desarrollando nuevas formas para que la policía encuentre a una persona, incluidas las herramientas para «eliminar el desenfoque» y «quitar la máscara». El primero toma una imagen borrosa y la enfoca utilizando el aprendizaje automático para visualizar cómo se vería una imagen más clara; el segundo intenta visualizar la parte cubierta de la cara de una persona usando modelos de aprendizaje automático que completan los detalles faltantes de una imagen usando una mejor suposición basada en patrones estadísticos encontrados en otras imágenes.

Estas capacidades podrían hacer que la tecnología de Clearview sea más atractiva pero también más problemática. No está claro con qué precisión funcionan las nuevas técnicas, pero los expertos dicen que podrían aumentar el riesgo de que una persona sea identificada incorrectamente y podrían exacerbar los sesgos inherentes al sistema.

«Esperaría que la precisión fuera bastante mala, e incluso más allá de la precisión, sin un control cuidadoso sobre el conjunto de datos y el proceso de capacitación, esperaría que se infiltrara una gran cantidad de sesgos no intencionales», dice Alejandro el Madry, profesor del MIT que se especializa en aprendizaje automático. Sin el debido cuidado, por ejemplo, el enfoque podría hacer que las personas con ciertas características sean más propensas a ser identificadas incorrectamente.

Incluso si la tecnología funciona según lo prometido, dice Madry, la ética de desenmascarar a las personas es problemática. “Piense en las personas que se enmascararon para participar en una protesta pacífica o se desdibujaron para proteger su privacidad”, dice.

Ton-That dice que las pruebas han encontrado que las nuevas herramientas mejoran la precisión de los resultados de Clearview. “Cualquier imagen mejorada debe anotarse como tal, y debe tenerse especial cuidado al evaluar los resultados que pueden resultar de una imagen mejorada”, dice.

.



Fuente de la Publicacion AQUI

Por admin

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *