Martes , agosto 20 2019

Suscribete gratis a nuestro boletin semanal

VISIONA . DESARROLLADORES . CONECTADOS .

Suscribete nuestro boletin semanal

PATROCINADORES
.
Home / Software Embebido / Sesgos de IA serán responsabilidad de las propias compañías EEUU

Sesgos de IA serán responsabilidad de las propias compañías EEUU

Legisladores estadounidenses proponen imputar los sesgos algorítmicos que produzcan todos los productos de Inteligencia Artificial que creen las propias compañías, siendo uno de los problemas más claros de esto las llamadas ‘fake news’.

ElectronicosOnline.com Magazine / Oswaldo Barajas

Legisladores estadounidenses han lanzado una nueva propuesta de ley para controlar los sesgos en los múltiples sistemas y productos comerciales que utilizan Inteligencia Artificial para realizar predicciones o detección de patrones a partir del análisis de grandes repositorios de datos, comúnmente con información relacionada a los consumidores.

   

Se trata de uno de los esfuerzos más significativos del gobierno de Estados Unidos para comenzar a crear el conjunto de reglas que moderar el creciente sector de IA, con el cual planean generar las condiciones adecuadas para obligar a las grandes compañías tecnológicas a que inspeccionen sus productos para evitar sesgos algorítmicos principalmente en relación a la discriminación y la desinformación, tal es el caso de las llamadas “fake news” que han ocasionado en más de una ocasión agitaciones sociales debido a la divulgación de noticias falsas entre los usuarios de plataformas digitales.

Pero, ¿qué son los sesgos? Un sesgo dentro de la estructura algorítmica de un sistema de IA, se define como el margen de malinterpretación calculada por el propio algoritmo durante las iteraciones de análisis, lo que genera datos de salida con tendencias desvirtuadas o imprecisas en relación con su objetivo deseado.

   

Los sesgos algorítmicos son responsables de los resultados negativos en los sistemas basados en Inteligencia Artificial.
   

De acuerdo a un reciente estudio publicado por el MIT Technology Review, la explicación del origen de los sesgos propios de la Inteligencia Artificial suele limitarse a los datos de entrenamiento sesgados, es decir, una fuente de información mal estructurada o sucia que no ha sido limpiada como parte de la etapa de pre-procesamiento, y por lo cual no cumple con las principales columnas asociadas a las 7 Vs del Big Data (Volumen, Velocidad, Veracidad, Variedad, Viabilidad, Visualización y Valor); sin embargo, este problema puede aparecer incluso mucho antes de la recopilación de datos, así como en otras etapas del proceso de aprendizaje profundo.

En el documento expuesto en el sitio Web del Senador Ron Wyden para el distrito de Oregon, uno de los principales impulsores de la iniciativa, se observa que en el apartado número 6 se destaca la importancia de instaurar un modelo que genere reglas inquebrantables para la Protección de los Datos Privados, además de disminuir los altos riesgos de las Decisiones Automatizadas de los sistemas IA al momento de generar tareas operativas para extraer datos de valor de las bases de datos de consumidores que posean datos sensibles.

- PUBLICIDAD -

En el apartado número 7 del documento se puntualiza que esta clase de errores informáticos “contribuyen a que los sistemas generen decisiones inexactas, injustas, sesgadas o discriminatorias que impactan a los consumidores”.

Ron Wyden, Senador por el estado de Oregon.
   

El documento prosigue y expone que la creación de decisiones, o facilitar a las compañías o particulares sistemas automatizados de toma de decisiones que ejecutan evaluaciones sistemáticas y extensivas de los consumidores, incluyendo análisis predictivos de aspectos sensibles de su vida privada como el desempeño laboral, situación económica, estado de salud, preferencias, intereses, comportamiento, ubicación o sitios que frecuenta como parte de su entretenimiento o esparcimiento personal, son los principales factores que han impulsado al gobierno estadounidense a tomar la rienda con respecto a esta industria que ha tomado más fuerza en términos de poder económico y tendencias industriales.

   

La iniciativa pretende moderar la responsabilidad de las compañías al permitir que en sus sistemas existan sesgos algorítmicos.
   

La propuesta ha supuesto un gran cambio en la postura de Washington con respecto a una de las tecnologías más poderosas del siglo, que salió a la luz formalmente en la década de los 80´s pero que ha ganado su forma en la última década. Hace unos años, los legisladores no estaban tan dispuestos a regular la IA. Ahora, las consecuencias de no haberlo hecho son cada vez más tangibles pues el impacto de los sesgos algorítmicos ha llegado incluso a sus entornos gubernamentales.

Países como Reino Unido, Francia, Alemania y Australia ya han liberado formalmente leyes que responsabilizan a las propias compañías tecnológicas de los sesgos en sus algoritmos, y los impactos que estos originan en las estructuras económicas, sociales o comerciales, y este es precisamente lo que busca implementar Estados Unidos.

- PUBLICIDAD -

Revisa también ...

¿Deseas saber qué tan vulnerable es tu sistema? Utiliza este sensor de Mitsubishi

Mitsubishi Electric ha puesto a disposición de la comunidad de desarrolladores un algoritmo que pueden …

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos necesarios están marcados *