¿Cómo puede AI apoyar la diversidad, la equidad y la inclusión?

Diversidad e inclusión

Compartir es demostrar interés

29 de abril de 2022

Existe una historia de desconfianza entre las comunidades de color y las tecnologías emergentes como la IA. ¿Cómo podemos reconstruir la confianza y garantizar que la IA se use de manera ética?

 

By

Especialista en Diseño de Proyectos y Comunicaciones, Global AI Action Alliance, Foro Económico Mundial


 

  • El Mes de la Historia Negra se lleva a cabo durante el mes de febrero en los EE. UU., Canadá y el Reino Unido.
  • El movimiento de derechos civiles en los EE. UU. y la tecnología emergente están estrechamente entrelazados, especialmente desde una perspectiva orientada a la justicia.
  • La IA debe ser ética y equitativa en su enfoque para garantizar que empodera a las comunidades y beneficia a la sociedad.

 

El sesgo en los algoritmos es un descuido humano costoso. Costoso debido a su inmenso impacto en las comunidades marginadas y subrepresentadas. A medida que la inteligencia artificial (IA) continúa escalando en industrias y funciones, puede estar plagada de sesgos inconscientes que hacen más daño que bien.

 

Si bien los especialistas en ética de la IA y los profesionales responsables de la IA a menudo hablan sobre la necesidad de una mayor transparencia y responsabilidad en el ciclo de vida de la IA, el Mes de la Historia Negra suele ser el momento en que las organizaciones evalúan el tremendo trabajo que se ha realizado y que queda por hacer.

 

En IA confiamos, un podcast copresentado por Miriam Vogel de EqualAI y Kay Firth-Butterfield del Foro Económico Mundial, explora las oportunidades y los desafíos de escalar la IA responsable. Para el episodio del Mes de la Historia Negra de este año, Cómo la IA impacta (y debería) afectar nuestra celebración de BHM, se les unió Renee Cummings, especialista en ética de la IA, criminóloga, académica de la comunidad de la Universidad de Columbia y fundadora de Urban AI.

 

El episodio se centra en la importancia de la equidad y la inclusión en la IA, pero también en sus vínculos con la justicia y el compromiso cívico.

 

Historia de la tecnología en las comunidades negras

Dentro de las comunidades de color en los EE. UU., existe un historial de desconfianza en la tecnología: la aplicación de la ley, los servicios sociales, la vivienda y la atención médica han mostrado disparidad e inequidad, especialmente durante la pandemia de COVID-19. Cummings explica que incluso en la historia reciente, muchas comunidades fueron utilizadas como "conejillos de indias" en la investigación, por lo que los niveles de desconfianza son generacionales y se basan en el trauma. El despliegue de nuevas tecnologías, como la IA, requiere la construcción y restauración de esa confianza y justicia.

 

Dado que la IA está destinada a ayudar y replicar las interacciones humanas, lo último que debería hacer la tecnología es defender viejos prejuicios humanos y perpetuar estereotipos dañinos e inexactos. Los viejos sistemas que continúan socavando el futuro de las personas, específicamente las personas negras, indígenas y de color (BIPOC), no son una herramienta que deba considerarse para su implementación.

 

Debido a que la IA ha comenzado a ayudar en funciones como decidir quién obtiene becas, hipotecas y oportunidades para generar capital económico, se hace evidente por qué la IA debe, sin lugar a dudas, ser imparcial e inclusiva. Al replicar las interacciones humanas, debería ser lo mejor que la humanidad tiene para ofrecer, en lugar de lo peor.

 

AI&You, una organización sin fines de lucro con la misión de involucrar y educar a las comunidades marginadas sobre la IA, describe el sesgo:

 

“La IA no es consciente de las cosas que le mostramos, pero trata de entenderlas de todos modos, por lo que si las cosas que le mostramos a la IA son en sí mismas sesgos, ya sea de una manera racista o xenófoba, por ejemplo, la La IA inevitablemente reproducirá ese comportamiento”.

 

Un ejemplo crítico y reciente del uso de la tecnología como arma fue durante las protestas de Black Lives Matter de 2020, donde “la tecnología de vigilancia se usó para rastrear y rastrear y aterrorizar a muchos periodistas, manifestantes y activistas; estábamos viendo muchos de los desafíos cuando llegó. a la falta de un enfoque equitativo o la falta de un enfoque diverso”, describe Cummings.

 

Si la tecnología impulsada por IA que permite el reconocimiento y el rastreo facial y de voz está inherentemente sesgada debido a sus datos y diseño, las comunidades BIPOC específicas se ponen en peligro sin siquiera darse cuenta. Para que la IA sea escalable, debe ser ética y equitativa en su enfoque.

 

Tecnología de confianza pública y compromiso cívico

Gran parte de la IA ocurre sin que el público lo sepa y, por lo tanto, sin que el público se involucre en el proceso. Renee Cummings es una gran defensora del compromiso cívico y comunitario en el diseño y la implementación de tecnologías nuevas y emergentes como la IA. Para generar confianza, el público debe participar en la "tecnología de confianza pública".

 

Como custodios del bien público, dice Cummings, todos tienen la responsabilidad colectiva de garantizar que la IA sea responsable y confiable. Y dado que las comunidades son, en última instancia, las productoras de los datos y el conocimiento que permiten el funcionamiento de los sistemas de IA, tiene sentido incluir sus voces en las fases de diseño.

 

Además, para crear un futuro sostenible, se requieren educación y voces diversas para una innovación más inclusiva, especialmente en lo que respecta a la seguridad pública. Si una comunidad, por ejemplo, tiene una desconfianza permanente con las fuerzas del orden público, cuando las fuerzas del orden implementen una tecnología, incluso si es beneficiosa, se considerará poco confiable.

 

Nunca hay una situación en la que el despliegue de tecnología justifique o deba crear una crisis en ninguna comunidad. Más bien, al implementar una nueva herramienta (entre todas las herramientas existentes) que tiene un propósito e intención en su inclusión, debe empoderar a las comunidades y presentar un beneficio para toda la sociedad.

 

 

Cuatro formas de garantizar que la IA sea inclusiva

  • Diversidad: necesaria a lo largo de todo el ciclo de vida de la IA, desde la ideación, el diseño y el desarrollo hasta la implementación y el seguimiento posterior al lanzamiento. El director ejecutivo de Appen, Mark Brayan, escribió para el Foro Económico Mundial que "crear una IA que sea inclusiva requiere un cambio total de mentalidad durante todo el proceso de desarrollo".
  • Transparencia: no solo en la fase de ideación o diseño, sino también a la hora de elegir las inversiones y el capital adecuados para los proyectos. Ser abierto sobre lo que se está diseñando y, lo que es más importante, para quién y sus impactos es necesario para cualquier nueva tecnología.
  • Educación: enseñar y equipar a las comunidades subrepresentadas con las herramientas y habilidades para comprender (y trabajar) en el espacio de la IA. El Dr. Brandeis Marshall, fundador de DataEdX, miembro practicante de Stanford PACS y miembro investigador asociado de Siegel Family Endowment, compartió en una conversación comunitaria que llegar a las comunidades BIPOC requiere representación: "Si no lo ve, no lo será". – y eso es tan vital para atraer a más personas a esta disciplina”.
  • Abogacía: apoyando y siguiendo el trabajo de organizaciones e individuos en el espacio como Black in AI, cuyos programas han eliminado las barreras que enfrentan las personas negras en todo el mundo en el campo de la IA, y Global AI Action Alliance (GAIA).

 

Este artículo fue publicado originalmente por el Foro Económico Mundial, el 01 de marzo de 2022, y se volvió a publicar de acuerdo con el Licencia pública internacional Reconocimiento-No comercial-Sin derivados 4.0 de Creative Commons. Puedes leer el artículo original aquí. Las opiniones expresadas en este artículo pertenecen únicamente al autor y no a WorldRef.


 

¡Explore los servicios de WorldRef para saber cómo estamos haciendo que sus operaciones comerciales globales sean más fáciles y económicas!

Planta eólica | Soluciones hidroeléctricasAuditoría energética | Energía Térmica y Cogeneración | Sistemas eléctricos | Servicios para vendedores  |  Abastecimiento industrial gratuito   |  Soluciones industriales  |  Minería y procesamiento de minerales  |  Sistemas de manipulación de materiales  |  Control de polución de aire  |  Tratamiento de agua y aguas residuales  |  Petróleo, Gas y Petroquímica  |  azúcar y bioetanol  |  Energía Solar  |  Soluciones de energía eólica