Estás leyendo la publicación: Elon Musk y otros líderes piden a ChatGPT y Bard que detengan el entrenamiento de IA: este es el motivo
Justo cuando la carrera armamentista generativa de IA se está calentando, ChatGPT y Bardo de Google podría estar en problemas ya que una nueva carta abierta pide que se detenga el desarrollo y la capacitación de nuevos sistemas de IA.
Según lo informado por BleepingEquipomás de mil personas, incluidos visionarios tecnológicos como Elon Musk e incluso Steve Wozniak, han firmado conjuntamente un carta abierta publicado por el Future of Life Institute.
La carta sugiere que OpenAI, Google y otras empresas que trabajan en este floreciente campo deben detener el desarrollo y la formación de sistemas de IA que sean más potentes que GPT-4 durante al menos seis meses. Durante este tiempo, los equipos de desarrollo de IA tendrán la oportunidad de reunirse y acordar protocolos de seguridad que luego se utilizarán cuando expertos externos independientes realicen auditorías en sistemas de IA.
Al igual que las redes sociales dieron la vuelta al mundo, la carta señala que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra”. Por esta razón, el Future of Life Institute y los cofirmantes de la carta quieren que el desarrollo de la IA sea “planificado y administrado con el cuidado y los recursos correspondientes”.
Por el momento, este no es el caso, ya que en los últimos meses los laboratorios de IA han competido ferozmente para “desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”. La carta hace un buen punto aquí, como hemos visto El gemelo malvado de ChatGPT, DAN salirse de los rieles y otros alucinaciones de IA.
Puede que ya sea demasiado tarde
Otro dato interesante extraído de la carta es que los sistemas de IA modernos ahora compiten directamente con los humanos cuando se trata de tareas generales y esto probablemente empeorará a medida que se desarrollen sistemas de IA más avanzados.
Todavía tenemos que considerar completamente y, en última instancia, decidir sobre las cuestiones existenciales y éticas planteadas por los rápidos avances en IA. Al mismo tiempo, es posible que los gobiernos de todo el mundo deban unirse y establecer las regulaciones necesarias para evitar que la IA tome el control mientras protege a la humanidad.
Si OpenAI, Google y otras empresas que trabajan con IA no aceptan una pausa en el desarrollo de sistemas de IA, la carta sugiere que “los gobiernos deberían intervenir e instituir una moratoria”.
Si bien la carta no pide que se detenga todo el desarrollo de la IA, sí arroja luz sobre cómo la competencia reciente en el espacio en crecimiento podría hacer que las cosas se salgan de control. Nadie quiere vivir en un mundo en el que los seres humanos estén controlados por IA y, con suerte, las empresas que lideran la carga estén dispuestas a dar un paso atrás y reevaluar la rápida velocidad a la que está progresando esta nueva tecnología.
Las mejores ofertas de Dell XPS 13 Plus de hoy
