Ética en los autómatas con inteligencia artificial: diseño y alimentación

A pesar de que los agentes autónomos de IA no comparten la consciencia y la sensibilidad humanas, sí pueden actuar de acuerdo con ciertos valores y normas éticas, siempre que estas sean incorporadas correctamente en su diseño y funcionamiento. La clave está en entender que estos sistemas aprenden y toman decisiones en función de lo que reciben: tanto en su programación inicial como en los parámetros que se les dan para aprender de sus resultados.

El diseño ético en la IA

Incorporar la ética en los autómatas no se reduce a brindarles criterios de operación y decisión “buenos”. Se trata de diseñar y construir su estructura interna —su forma de funcionar— de manera que esté alineada con valores que se consideran fundamentales como la justicia, la igualdad, la no discriminación, la privacidad, y el respeto a la dignidad humana.

El desarrollador que crea un autómata debe pensar desde el principio en las posibles consecuencias de su uso. ¿Quién es el usuario final de esta tecnología? ¿Quiénes son sus intermediarios? ¿A quién podría perjudicar sin querer? ¿Qué dilemas éticos podría enfrentar? Estas preguntas determinan la manera en que se programan sus capacidades, sus límites y sus formas de aprender.

Además, el diseño ético implica establecer «límites» con respecto a lo que el autómata puede pero no debe hacer. Esto incluye restricciones directas en su programación, o mecanismos que obliguen al sistema a consultar con un humano antes de tomar ciertas decisiones: un robot diseñado para asistir a personas mayores no solo debe ser eficiente, sino también debe respetar la privacidad de quienes cuida, ofrecerles autonomía en la medida de lo posible y ser capaz de detectar situaciones de riesgo sin invadir la intimidad innecesariamente.

Alimentación ética de datos

Los autómatas que operan con IA utilizan modelos de aprendizaje autorreferencial, lo que significa que aprenden de los datos que se les proporcionan y de los que pueden incorporar en el transcurso de su operación. Si los datos de alimentación están sesgados, incompletos o reflejan injusticias del mundo real, el autómata puede aprender estos esquemas, repetirlos o incluso agravarlos. Por eso, alimentar a estos sistemas con directrices éticas claras es igual de importante que programarlos funcionalmente. Esto significa:

– Evitar la contaminación: asegurarse de que el autómata no esté alimentado con prejuicios o datos sesgados y que esté en posibilidad de identificarlos.

– Procurar la diversificación: incluir los referentes de vida colectiva y la visión del mundo de distintos grupos humanos para evitar sesgos culturales o sociales.

– Contextualizar: considerar en todo momento de dónde provienen los datos, en qué circunstancias fueron recolectados, y a qué sistemas de valores corresponden.

A este tratamiento reflexivo previo se le denomina “gobernanza de datos”, y es una de las formas más efectivas de influir en la conducta de un autómata.

Ética integrada

La ética no es un accesorio de la inteligencia artificial: forma una parte sustantiva de su columna vertebral. Construir con el debido cuidado una arquitectura capaz de incorporar un conjunto de directrices éticas lo más diverso y completo posible, garantiza que los autómatas de IA puedan intervenir éticamente en cualquier momento de su operación y que, por ende, podamos confiar en que estas nuevas herramientas tecnológicas están realmente al servicio del bienestar humano.