Inteligencia Artificial al banquillo: ¿es posible un uso responsable?

Dos abogados presentaron información falsa ante un tribunal tras utilizar ChatGPT para preparar un documento legal, generando referencias a casos inexistentes. Este caso sin dudas reavivó el debate sobre el uso responsable de la Inteligencia Artificial.

Este evento subraya de manera alarmante la necesidad no sólo de promover el uso responsable de la IA, sino que pone de manifiesto la importancia de la verificación de los datos que esta tecnología genera.

La IA, sin lugar a dudas ha revolucionado múltiples campos que van desde la medicina hasta la educación, pasando por el derecho y la comunicación. Para entender la magnitud del impulso que trae consigo basta con explorar algunos datos: según un informe de Grand View Research, se espera que el tamaño del mercado global de la IA crezca un 37% cada año desde 2023 hasta 2030.

Ante este panorama, surge una pregunta crucial: ¿Podemos garantizar un uso responsable de la IA sin regulaciones estrictas?

Para la UNESCO, la IA no debería ser una zona sin ley, ya que se considera que su influencia puede impactar directamente en las vidas de las personas. A nivel mundial ya se están implementando acciones para establecer un marco regulatorio en el uso de esta tecnología. En esta línea de acción, en marzo pasado el Parlamento Europeo adoptó formalmente la Ley de Inteligencia Artificial de la UE, la cual se espera que tenga un impacto significativo en los mercados y las prácticas mundiales y que sirva como posible modelo para otras jurisdicciones que deseen aplicar la legislación sobre IA.

Lo cierto es que mientras se debate en varios frentes acerca de la viabilidad de lograr una regulación profunda que aborde a una tecnología en constante evolución, se convierte en necesario que cada usuario asuma una responsabilidad individual en su uso, fomentando prácticas éticas y conscientes que promuevan la transparencia, la privacidad y la equidad en la aplicación de la inteligencia artificial.

Asegurar la veracidad de la información

El uso de modelos como ChatGPT puede ser extremadamente útil para acelerar procesos y brindar asistencia en tareas complejas. No obstante, estos sistemas no están exentos de errores: la capacidad de la IA para generar textos coherentes y bien estructurados no garantiza que el contenido sea preciso o veraz. Los modelos de lenguaje se entrenan con vastas cantidades de datos, pero no tienen la capacidad de comprender el contexto o verificar la autenticidad de la información que generan.

Para asegurarnos de tener una IA responsable necesitaremos que haya coordinación entre el sector público y privado. Pero, a fin de cuentas, la responsabilidad recae en los usuarios que deben ser conscientes de las limitaciones de estas herramientas y tomar medidas adicionales para asegurar la veracidad de la información que utilizan.

Para un uso responsable de la IA, es crucial corroborar la información generada con fuentes confiables, utilizar sistemas transparentes que puedan explicar cómo llegaron a sus conclusiones, invertir en formación continua sobre el uso y las limitaciones de la tecnología, y fomentar una cultura de responsabilidad y ética a través de directrices claras sobre el uso aceptable, asegurándose de que todos los usuarios comprendan sus responsabilidades.

No perdamos de vista que, aunque esta tecnología ofrece innumerables beneficios, su uso irresponsable puede tener consecuencias serias. Es imperativo que cada usuario asuma su responsabilidad y contribuya a un uso ético y consciente de la IA.

(*) Por Mónica Talán, fundadora de Cryptoconexión y Techtranslators.ai.

Los textos publicados en esta sección son responsabilidad única de los autores, por lo que La Opinión no asume responsabilidad sobre los mismos.

Sigue leyendo:
• Cómo el nuevo algoritmo de Google y la IA están transformando los resultados de nuestras búsquedas
• HAL 9000, la inquietante computadora de la película “2001: una odisea del espacio” que predijo las preocupaciones actuales sobre la IA
• El hombre que convirtió a su padre muerto en un chatbot “para conservar la esencia de su personalidad tan maravillosa”