La Unesco lanzó una guía para mejorar la relación entre los humanos y los robots

El organismo publicó un texto con recomendaciones para el uso ético de la inteligencia artificial. Aborda tecnologías polémicas como el reconocimiento facial y las máquinas bélicas.

Los 193 países miembros de la Unesco, en colaboración con académicos y representantes de compañías como Google y Facebook, redactaron y divulgaron un documento que procura optimizar la relación entre los humanos y las máquinas inteligentes, en ocasiones tirante, mediante una serie de recomendaciones éticas para el desarrollo y uso de esas tecnologías.

Ética e inteligencia artificial: Unesco responde a las preocupaciones

El Proyecto de recomendación sobre la ética de la inteligencia artificial -tal es el título de la guía de 30 páginas que publicó la Unesco en el marco de su más reciente conferencia general- propone “afrontar en forma responsable los efectos conocidos y desconocidos de la IA en los seres humanos, las sociedades y el medio ambiente”. Es comparada con una declaración universal pero no es legalmente vinculante. Amén de ello, especialistas aseguran que se trata de texto “histórico” para que el diseño y aplicación de tales avances no esté reñido con el bienestar y los derechos humanos.

El organismo internacional espera que el documento se convierta en una referencia en el área, respondiendo así a los reclamos que en los últimos años esgrimieron expertos y agrupaciones alarmados por el avance de las máquinas, de su posible mutación de asistentes a enemigas. El presidente de Microsoft, Brad Smith, en 2019 había exigido medidas para controlar una posible rebelión robótica. En la ocasión, el representante de la compañía estadounidense (que por cierto participó en la redacción de la nueva guía) dijo que “la seguridad de los civiles está en riesgo” y que se necesitan acciones urgentes, una Convención de Ginebra ‘digital’ para establecer normas de protección”. Smith refirió a una actualización de la Convención de Ginebra, cónclave que se realizó por primera vez en 1864 en aquella ciudad de Suiza para establecer límites éticos en la guerra.

Leé también: Entrevista: ¿Quién será el responsable de los crímenes de un robot asesino?

Los temores no son nuevos: por mencionar un caso resonante, el empresario Elon Musk dijo que la IA sería el eje de la próxima guerra mundial.

Los 5 ejes de la guía sobre la ética en el desarrollo de inteligencia artificial

1. No es legalmente vinculante, pero la Unesco espera que se establezca como una referencia a nivel mundial para el desarrollo y empleo de estos avances tecnológicos. Además, se espera que unifique otras guías que abordan las mismas preocupaciones.
2. Amén de la divulgación del documento, el organismo dependiente de Naciones Unidas promete evaluaciones periódicas y que los Estados miembro informen acerca de sus progresos y actividades en el área. Los resultados serán examinados por especialistas y debatidos en forma pública. Prometen transparencia en el análisis y posteriores decisiones.
3. La guía exige la evaluación de las implicaciones éticas derivadas del vínculo humano-máquinas, especialmente cuando involucre a niños. En ese orden, alertan que la interacción con los sistemas de IA puede eventualmente someter a las personas a manipulaciones y tener efectos nocivos para la salud mental.
4. En el texto se establece la relevancia de que las personas estén siempre informadas respecto al trato con máquinas. La advertencia podría ser baladí en 2021, pero será cada vez más importante a medida que la tecnología es capaz de realizar tareas que antes eran exclusivamente humanas. En tanto, podrían confundir a desprevenidos acerca de su condición mecánica.
5. La guía además repasa aspectos como la privacidad y la presencia de sesgos (raciales, de género, etcétera) que derivan del uso de estas tecnologías. En ese sentido, promueve el desarrollo de sistemas inclusivos, además de tecnologías que sean amigables con el medio ambiente.

Inteligencia artificial en la vida real: los usos que generan preocupación

• Sobre los robots asesinos: En los últimos años hemos sido testigos de armas autónomas y, en paralelo, de las advertencias de grupos que señalan los riesgo que supone la no-responsabilidad humana en el uso de esos sistemas. En este punto, Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la Unesco dijo en un comunicado que la guía establece que “las decisiones de vida o muerte no deben ser tomadas por métodos de IA”. En ese orden, se indica que “la última palabra debe ser humana”.
• Sobre el reconocimiento facial: Otra de las aplicaciones de la IA en el mundo real es el reconocimiento de rostros, que no sólo se emplea en el ámbito privado (por ejemplo para desbloquear un celular) sino también en espacios públicos. Mientras que las fuerzas de seguridad señalan que esa tecnología sirve para encontrar a prófugos de la justicia y monitorear las calles; se acumulan críticas debido a los sesgos discriminatorios del reconocimiento facial, amén de sus altas tasas de error. Al respecto, el documento de la Unesco señala que “estos sistemas no deberían ser utilizados con fines de vigilancia masiva o rendición de cuentas”.
• Sobre las recomendaciones de los servicios de streaming: Aunque a primera vista este aspecto tenga consecuencias menos peligrosas en relación a los dos puntos anteriores, la guía también los aborda. ¿Acaso las recomendaciones de plataformas como Netflix y Spotify afectan a la diversidad cultural? Al respecto, Unesco pide que se trabaje para una evaluación y mejor aplicación de los efectos potencialmente perjudiciales de esos métodos.

Finalmente, el documento Proyecto de recomendación sobre la ética de la inteligencia artificial propone que las personas se involucren y adopten su cuota de responsabilidad a través del aprendizaje. “Si educamos a una nueva generación de consumidores digitales conscientes de sus derechos y con las habilidades de pensamiento crítico necesarias para navegar la esfera digital, estaremos empoderándoles para que exijan a las grandes tecnológicas a rendir cuentas y estaremos exigiendo que la IA sea desarrollada de forma humana y ética”, concluyó Ramos.

¿Dónde consultar el documento de la Unesco?

El documento (al que podés acceder en este enlace) comenzó a redactarse a principios de 2020 y en septiembre de este año se presentó el primer borrador, hasta su reciente divulgación luego de comentarios y observaciones. Participaron expertos en representación de Google, Facebook y Microsoft, además de investigadores de las universidades estadounidenses de Nueva York, Stanford, y la Academia China de Ciencia y Tecnología.