¿Debemos preocuparnos por la inteligencia artificial? expertos recomiendan proceder con cautela

La inteligencia artificial, una tecnología en rápida evolución, preocupa a científicos, abogados, novelistas y periodistas quienes temen ser reemplazados por programas de computadoras que imitan la voz humana, pero por otro lado, mucha gente piensa que puede revolucionar el aprendizaje, la ingeniería, los cultivos y  el procesamiento de comida.

Pero también existe la preocupación de que la Inteligencia artificial reproduzca los prejuicios.

“Con trabajo podemos eliminar o reducir en gran medida los prejuicios, pero al final del día es como un perico o un espejo que refleja lo que se ve en nuestra sociedad. Una sociedad con prejuicios siempre producirá una imagen sesgada en el espejo. Así que no solo tenemos que arreglar la Inteligencia Artificial sino que tenemos que arreglarnos nosotros mismos”, dijo Chris Dede, subdirector de investigación del National AI Institute for Adult Learning and Online Education.

Durante la videoconferencia: Inteligencia Artificial, la nueva frontera en la tecnología: ¿Nos traerá utopía o distopía? organizada por Ethnic Media Services, varios expertos en el tema discutieron su alcance y las capacidades, sus muchos usos y deficiencias, incluidos los sesgos inherentes incorporados involuntariamente en sus sistemas.

“Los escritores de ciencia ficción han estado pensando y escribiendo sobre la inteligencia artificial en el último medio siglo, y muchas de las cosas que ahora aparecen en la prensa han sido parte de la escritura de la ciencia ficción por décadas”, dijo Dede.

Y explicó que hay dos tipos de ciencia ficción sobre la inteligencia artificial. Por un lado, la vemos como un actor independiente, fuera del control de los seres humanos y, por lo general, se mete en muchos problemas. 

“Cuando era estudiante de posgrado, vi la película 2001: A Space Odyssey, donde la inteligencia artificial se vuelve loca y comienza a matar astronautas. 

Pero mencionó que el otro tema dentro de la ciencia ficción es la inteligencia artificial vista como un socio con una relación complementaria entre un ser humano y una máquina. 

“Vemos eso, por ejemplo, en ‘Star Trek: The Next Generation‘ donde tienes al Capitán Picard, el sabio capitán humano de la nave estelar, y luego está Data, que parece una persona, pero en realidad es un Android, y la complejidad de su relación”.

Mencionó que Data es capaz de absorber enormes cantidades de datos en cuestión de un segundo, y hacer lo que se llama un estimado, lo cual es una predicción calculada para hacer pronósticos de cualquier tipo.

“Picard tiene una especie de sabiduría aplicada al juicio, y usa las predicciones calculadas de Data para ayudarlo a tomar buenas decisiones”.

Hector Palacios, científico investigador de Service Now Research, dijo que eso solía ser el caso cuando veíamos un mensaje de texto o un correo electrónico, y podíamos decir con confianza: “Oh, sí, eso fue escrito por un humano”. 

Pero mencionó que ese ya no es el caso. “Ahora tenemos máquinas que pueden generar texto, lo que significa que si tengo dinero, puedo generar texto que puede conducir al dinero, o hacia la desinformación o manipulación. Puede ser una pieza para la polarización”.

Por tanto, dijo que la pregunta es, ¿qué hacemos con esto? ¿Simplemente abrimos lo que queramos o somos cautelosos al respecto? “La respuesta es probablemente que ambos tienen razón, y habrá que guardar cautela al abrir”.

Anticipó que muchas cosas especializadas en muchos contextos desaparecerán, pero al mismo tiempo, a medida que comenzamos la evolución, también cambiaremos lo que se considera trabajo.

“Probablemente las sorpresas más grandes vendrán de los detalles más pequeños donde esto es realmente útil. También si tendemos a magnificar el impacto del gran proyecto o si subestimamos el pequeño efecto”.

Agregó que es muy importante que se consideren muchos más ángulos porque en realidad no tenemos idea de qué va a pasar con la forma en que interactuamos con las máquinas.

Sean McGregor, fundador de Responsible AI Collaborative y consultor técnico principal de IBM Watson AI XPRIZE y desarrollador de AI Incident Database dijo que hay una gran cantidad de estudios que muestran como los prejuicios raciales y de género en la información se van hacia la inteligencia artificial.

“Ciertamente, hay problemas importantes incrustados en los datos. Pero también tenemos que mirar el sistema completo. Digamos que los datos en sí son perfectamente imparciales y producen y pueden producir un sistema de buen desempeño”. 

Sin embargo, McGregor señaló que aún así queda la pregunta de ¿cómo configuras la cámara? En cuanto al contraste, ¿será más brillante o más oscuro? lo que cambia el rendimiento del sistema para las personas con un tono de piel diferente que está completamente fuera del alcance de lo que expresan los datos.

“Pero hay un ingeniero que está tomando una decisión. Se trata de quién tiene el poder de tomar esa decisión, de girar la perilla para desempeñarse mejor en una u otra condición, y el problema que a menudo tenemos es que hay alguien sentado en un puesto de ingeniería que toma esas decisiones. Incluso si todos tienen buenas intenciones, aún podríamos terminar con un resultado sesgado al final”.