Elon Musk y líderes tecnológicos piden pausar el desarrollo de chats de inteligencia artificial

Elon Musk y otros cientos de líderes e investigadores tecnológicos escribieron una carta abierta dirigida a los laboratorios de inteligencia artificial (AI, en inglés) para pedirles que pausen sus desarrollos, ya que, aseguran, presentan “riesgos profundos para la sociedad y la humanidad”.

La carta señala que los desarrolladores de inteligencia artificial están atrapados en “una carrera fuera de control” para implementar sistemas digitales cada vez más poderosos, que “ni siquiera sus creadores pueden entender, predecir o controlar”.

El escrito fue publicado por la organización sin fines de lucro Future of Life Institute.

La carta abierta pedía una pausa en el desarrollo de sistemas AI que daría tiempo para introducir “protocolos de seguridad compartidos“. “Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, agregó el documento.

Entre los líderes que firmaron la carta se encuentran Steve Wozniak, cofundador de Apple; Andrew Yang, empresario y candidato presidencial de 2020; y Rachel Bronson, presidenta del Boletín de los Científicos Atómicos, que establece el Reloj del Juicio Final.

Los expertos creen que sería difícil persuadir a la comunidad tecnológica en general para que acepte una moratoria.

Pero la acción rápida del gobierno también es una posibilidad remota, porque los legisladores han hecho poco para regular la inteligencia artificial.

En la Unión Europea han comenzado a buscar una forma de regularizar estos programas. En 2021, los legisladores propusieron una ley diseñada para regular las tecnologías de inteligencia artificial que podrían causar daño, incluidos los sistemas de reconocimiento facial.

Se espera que se apruebe tan pronto como este año y la medida requeriría que las empresas realicen evaluaciones de riesgo para determinar cómo sus aplicaciones podrían afectar la salud, la seguridad y los derechos individuales.

AI impulsa chatbots como ChatGPT, Bing de Microsoft y Bard de Google, que pueden realizar conversaciones similares a las de los humanos, crear ensayos sobre una variedad infinita de temas y realizar tareas más complejas, como escribir código de computadora.

El impulso para desarrollar chatbots más potentes ha dado lugar a una carrera que podría determinar los próximos líderes de la industria tecnológica.

Pero estas herramientas han sido criticadas por equivocarse en los detalles y por su capacidad para difundir información errónea.

GPT-4 es lo que los investigadores llaman red neuronal, un tipo de sistema matemático que aprende habilidades mediante el análisis de datos.

Una red neuronal es la misma tecnología que usan los asistentes digitales como Siri y Alexa para reconocer los comandos hablados, y que usan los autos sin conductor para identificar a los peatones.

También te puede interesar:
– Cómo hacerse millonario según la inteligencia artificial
– Así fue como la IA engañó a las redes sociales con una imagen del Papa Francisco
– Así fue como Chat GPT-4 fue capaz de salvar la vida de un perro