Estás leyendo la publicación: Los humanos pueden destruirse a sí mismos abriendo esta caja de Pandora de IA
Esta no es la misión del Homo Sapiens, pero podemos destruirnos a nosotros mismos como especie abriendo esta caja de Pandora de IA.
La revolución intelectual marcada por el triunfo de ChatGPT no es una revolución tecnológica más. Esta es una tríada de revoluciones sinérgicamente sublimes: revoluciones tecnológicas, tecno-humanitarias y sociopolíticas en una botella.
Por lo tanto, con el debido respeto a los distinguidos gurús de la investigación en IA (tanto partidarios como detractores de la desaceleración), sus evaluaciones de las perspectivas de la revolución intelectual y su impacto en la sociedad son demasiado especializadas y, por lo tanto, no nos permiten ver un imagen estereoscópica de lo que está sucediendo.
Para tener una visión integral de lo que está sucediendo, vale la pena escuchar lo que dicen sobre lo que está sucediendo no solo los expertos en IA sino también los intelectuales de los campos de la filosofía, la historia y la innovación.
Por ejemplo, aquí hay tres nuevos puntos de vista de estos intelectuales que recomendamos escuchar.
- Nick Bostrom, profesor de la Universidad de Oxford y director del Future of Humanity Institute.
- Neil Ferguson, historiador, escritor y periodista; profesor en Harvard; y Senior Fellow en las universidades de Oxford y Stanford.
- Steve Blank, un conocido empresario estadounidense, capitalista de riesgo y especialista en innovación a quien se le llama el “Padrino de Silicon Valley”.
Nick Bostrom considera lo que está sucediendo como evidencia de la inminente aparición en el planeta de la primera inteligencia general que será más inteligente que los humanos. Él considera que esta es la misión de la humanidad, lo más importante en toda su historia. Pero el significado colosal de esta misión está asociado a una enorme responsabilidad y riesgo existencial para la humanidad.
Neil Ferguson escribe que los extraterrestres han aterrizado, y nosotros los creamos nosotros mismos. Las consecuencias más terribles de esto no se ven en absoluto en el hecho de que el GPT-5 “decida” borrarnos de la faz de la tierra. Más bien, el riesgo es que nos despedacemos como especie al usar grandes modelos de lenguaje para propósitos innobles y nefastos. “Ya estamos en camino a la pesadilla de Raskolnikov al final de ‘Crimen y castigo’, en la que la humanidad colectivamente se vuelve loca y se desliza hacia una masacre intestina”.
Steve en blanco llamado La caja de Pandora de ChatGPT. Él cree que las personas están jugando con fuego al aprender modelos de lenguaje cada vez más poderosos. Que estábamos muy, muy equivocados al pensar que solo estábamos desarrollando nuevas herramientas de automatización. Ahora estamos presenciando cómo la introducción masiva del GPT-4 y los modelos esperados “tendrá el mismo impacto en la sociedad que el impacto combinado que ha tenido en la humanidad la llegada de los explosivos, las comunicaciones masivas, las computadoras, la edición del genoma y las armas nucleares. cuando se toman juntos.
Leer más artículos relacionados:
