Como en un filme de ciencia ficción: Prejuicios entre robots

En lo que parece ser un nuevo reto a tomar en cuenta por programadores y desarrolladores de inteligencia artificial, científicos del Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Cardiff, en Gales, Reino Unido, han realizado una investigación según la cual los prejuicios también pueden ser desarrollados por los robots, no solo por el hombre, y de manera totalmente independiente, sin que medie influencia humana.

Los resultados de la investigación han sido recogidos en la revista Nature, y esta semana han generado en medios de prensa británicos titulares como “¿Pueden los robots desarrollar prejuicios por sí mismos?” y “Los robots podrían volverse racistas o sexistas, según reporte”.

De acuerdo con el estudio, las inteligencias artificiales presentes en robots son susceptibles de acabar desarrollando estos comportamientos negativos exclusivamente a partir de las relaciones de cooperación con otras máquinas.

En estudios anteriores se había demostrado que los algoritmos artificiales podían desarrollar prejuicios como el racismo o el machismo. No obstante, en todos los casos se trataba de sistemas entrenados a través de registros de datos generados por humanos mediante aprendizaje automático.

La investigación de la Universidad de Cardiff y el MIT se basa en una simulación por ordenador que analiza las similitudes de las interacciones entre agentes virtuales que pueden derivar en la creación de grupos. En este contexto, cada individuo toma decisiones sobre si dejar a otros formar parte de su grupo basadas en la reputación y en estrategias en las que influyen los prejuicios hacia extraños.

“Nuestras simulaciones muestran que los prejuicios son una fuerza poderosa de la naturaleza y en la evolución, y que pueden incentivarse con facilidad entre las comunidades virtuales, en detrimento de la conectividad más amplia con otros”, ha explicado uno de los autores del estudio y profesor de la Universidad de Cardiff, Roger Whitaker.

La investigación demostró que los individuos actualizan sus niveles de prejuicio copiando a aquellos que han obtenido un beneficio más alto a corto plazo. Ello implica, explican los responsables del estudio, que esas decisiones no requieren necesariamente habilidades cognitivas avanzadas.

“Muchos de los avances en inteligencia artificial implican autonomía, lo que significa que el comportamiento de los dispositivos también está influido por otros a su alrededor”, ha dicho Whitaker.

En resumen: los prejuicios no son un fenómeno exclusivamente humano y las máquinas pudieran desarrollarlos aprendiendo unas de otras.

“La protección frente a grupos prejuiciosos puede llevar a los individuos, inadvertidamente, a formar nuevos grupos prejuiciosos, lo cual resultaría en una población fracturada. Tal nivel de prejuicios sería muy difícil de revertir”, dijo Whitaker, del Instituto de Investigación de Seguridad y Crimen de la Universidad de Cardiff y de la Escuela de Ciencias de la Computación e Informática.

El hallazgo, consideraron expertos, sería una mala noticia para los humanos en un escenario futuro en que los robots tengan un creciente poder en el funcionamiento de las economías y las sociedades.

Un alto ejecutivo del Banco de Inglaterra dijo a BBC Radio 4: “De pronto, veremos a las máquinas reemplazar a los hombres haciendo cosas inteligentes, y también haciendo cosas”.

(Con información de Europa Press y sciencedaily.com)