Estás leyendo la publicación: AI no se volverá rebelde, y he aquí por qué
A medida que los sistemas de IA se vuelven más poderosos, la idea de las amenazas existenciales de los algoritmos sensibles parece volverse más real. Esta emoción resuena con fuerza en la reciente carta abierta que pide una pausa de seis meses en la investigación de IA para sistemas más potentes que GPT-4. Si los investigadores se están volviendo locos por el riesgo de IA y AGI deshonestos, significa que el profano debe estar temblando en sus botas, ¿verdad?
Bueno, parece que el riesgo asociado con la liberación de sistemas de IA es mucho menor de lo que se percibe. Incluso si importantes casas de investigación publican historias de que más de 300 millones de puestos de trabajo serán reemplazados por sistemas de IA, la verdad, como siempre, es mucho más matizada.
Sin embargo, la conclusión clave es clara: la IA no se volverá deshonesta.
es solo un programa
Recientemente, un artículo propuso la idea de que el juego ‘Elden Ring’ pronto se convertiría en un riesgo existencial para la humanidad. Si bien esta propuesta parece extravagante al principio, es solo una metáfora para ilustrar un escenario igualmente imposible: el de la IA moderna que asume el papel de Skynet.
Actualmente, lo que llamamos IA es solo otra pieza de software, con el campo asociado con el nombre de ‘inteligencia artificial’ porque es la descripción más cercana de lo que se está creando. La IA moderna no es más que un precursor de un programa realmente inteligente que puede representar una amenaza existencial para la humanidad.
Toma el espectáculo mundo occidental por ejemplo. Ambientada en un escenario de futuro cercano, explora la posibilidad de un parque temático operado por robots similares a humanos. Cuando estos robots adquieren sensibilidad, el operador del parque plantea una pregunta interesante: ¿qué es la conciencia? En una conversación entre un programador que conoce íntimamente cómo funcionan sus máquinas y una máquina que conoce su verdadera naturaleza, afirma: “No hay umbral que nos haga más grandes que la suma de nuestras partes, no hay punto de inflexión en el que nos volvamos completamente vivo. No podemos definir la conciencia porque la conciencia no existe”.
Esto plantea un punto importante que los investigadores de IA deben responder hoy: ¿cómo podemos tener miedo de un programa generalmente inteligente, también conocido como AGI, cuando ni siquiera hemos definido qué es la conciencia todavía?
Según este artículo publicado sobre la naturaleza de la conciencia en AGI, todavía hay cuatro tipos de definición de conciencia que deben resolverse antes de llegar a AGI. En este asunto, nuestros algoritmos actuales son simplemente programas simples de seguimiento de instrucciones, mientras que AGI es una tecnología completamente nueva que va más allá de los algoritmos.
Si bien GPT-4 y Midjourney están muy por delante de ELIZA o GAN respectivamente, siguen siendo programas no inteligentes. El problema con el campo de la IA no es la tecnología que están investigando, es la marca.
La IA tiene un problema de marca
El verdadero problema de la IA no es el riesgo AGI, sino el miedo asociado con la inteligencia artificial. Durante décadas, las representaciones de máquinas pensantes en los medios populares han servido para infundir miedo en los corazones de la audiencia.
Sin embargo, el camino desde el estado actual de la tecnología de IA hasta máquinas tan capaces no solo no está claro, sino que requiere un cambio de paradigma en la informática misma. Las computadoras de hoy ni siquiera pueden producir números aleatorios debido a la naturaleza binaria de sus bases.
Steve Ward, profesor de informática e ingeniería en el MIT, afirmó: “En una máquina completamente determinista, no puedes generar nada que realmente puedas llamar una secuencia aleatoria de números, porque la máquina sigue el mismo algoritmo para generarlos”.
Si nuestras computadoras deterministas ni siquiera pueden producir números aleatorios, ¿cómo pueden tener sensibilidad, conciencia o incluso inteligencia, que son conceptos puramente no deterministas?
Echemos un vistazo a GPT-4, el LLM más avanzado y el tema de la carta abierta antes mencionada. Los LLM son solo generadores de palabras, programas entrenados para predecir la próxima palabra probable y ajustados para hablar como humanos.
“Hay mucha gente alucinando por la forma en que los grandes modelos de lenguaje están haciendo cosas como escribir ensayos universitarios, etc. El daño es que estas cosas son solo generadores de tonterías”.
alex hanna, Ex especialista en ética de la IA en Google
No hay nada realmente inteligente en GPT-4, excepto si cuenta sus capacidades de predicción, un eco de lo que es posible con la inteligencia humana real. Si bien el potencial disruptivo de la IA no puede descartarse por completo, parece que los sistemas sociales ya se han adaptado a la tecnología que reemplaza a los humanos. Para crear verdaderas máquinas pensantes, la investigación en IA tiene que ir más allá de lo que es posible hoy en día.
El verdadero camino hacia AGI
Los algoritmos actuales han llegado a este nivel principalmente imitando la biología humana. Las redes neuronales, la base de GPT-4, son un débil eco de la estructura de la neurona humana. El aprendizaje por refuerzo trata de aplicar una pequeña faceta de los métodos de adquisición de conocimiento de los humanos a los programas de computadora. Sin embargo, la creación de un cerebro artificial, o más bien la recreación de las partes “pensantes” del cerebro humano, es una tarea que es mejor dejar en manos de futuros investigadores y científicos.
Esta empresa no solo requeriría avances en la comprensión del cerebro humano, la neurociencia y la psicología, sino también avances en la filosofía. Para crear una verdadera inteligencia artificial, la humanidad necesita llegar a un consenso sobre lo que realmente significan inteligencia y sensibilidad. Hasta entonces, los investigadores pueden descubrir cómo resolver las alucinaciones de información o cómo hacer que la IA generativa dibuje manos de manera efectiva.
