Estás leyendo la publicación: ¿Qué significan las advertencias del ‘padrino de la IA’ para el futuro de las relaciones entre humanos e IA?
Mientras AI lance sus nuevos “poderes mágicos” al mercado, las tensiones aumentarán en la comunidad tecnológica y en la sociedad en general. ¿A qué tipo de riesgo estará sujeta la humanidad? ¿Te parece una película de ciencia ficción? ¡No lo es! Esta es una preocupación real y personas de muchos campos están hablando de esto ahora mismo, mientras lee este artículo.
Muchos científicos y profesionales de la tecnología están preocupados por lo que podemos esperar en los próximos años con el aprendizaje automático cada vez más inteligente. Como ejemplo de esto, en marzo se publicó una carta abierta firmada conjuntamente por muchos representantes de AI solicitando una pausa de 6 meses en los desarrollos de AI.
Paralelamente a esto (y algo controvertido), algunas de estas mismas empresas están despidiendo a profesionales éticos de IA. Parece que los conflictos éticos están incendiando a los gigantes, ¿verdad?
O, en algunos casos, los profesionales de IA de renombre están renunciando a sus trabajos. Ese es el caso del pionero de la IA Geoffrey Hinton, quien dejó Google la semana pasada. Aunque se aseguró de no vincular su renuncia a los problemas éticos de la empresa, el hecho reforzó las preocupaciones sobre el desarrollo de la IA y llevó a la gente a cuestionar la falta de transparencia mientras las grandes empresas tecnológicas avanzan aterradoramente en sus investigaciones y descubrimientos, enfrentándose entre sí en un disputa desproporcionada.
¿Quién es Geoffrey Hinton, el “Padrino de la IA”?
Geoffrey Hinton es un psicólogo cognitivo e informático de 75 años conocido por su trabajo innovador en el aprendizaje profundo y la investigación de redes neuronales.
En 2012, Hinton ayudó a construir un programa de aprendizaje automático que podía identificar objetos, lo que abrió las puertas a los modernos generadores de imágenes de IA, por ejemplo, y luego a LLM como Chat-GPT y Google Bard. Trabaja con sus dos estudiantes en la Universidad de Toronto. Uno de ellos es Ilya Sutskever, cofundador y científico jefe de OpenAi, responsable de Chat-GPT.
Con una intensa formación académica en las principales universidades y premios como el Premio Turing 2018, Geoffrey Hinton dejó su trabajo la semana pasada en Google, donde dedicó 10 años al desarrollo de IA. Hinton ahora quiere centrarse en una IA segura y ética.
La partida de Hinton y las advertencias
Según un entrevista con The New York Times, el científico dejó Google para poder tener la libertad de hablar sobre los riesgos de la inteligencia artificial. Para aclarar sus motivaciones, escribió en su Cuenta de Twitter
Después de que Hinton abandonó Google, planteó factores relacionados con la dependencia excesiva de la IA, las preocupaciones sobre la privacidad y las consideraciones éticas. Vamos a sumergirnos en los puntos centrales de sus advertencias:
Máquinas más inteligentes que nosotros: ¿es eso posible?
Según Geoffrey Hinton, las máquinas que se vuelven más inteligentes que los humanos es cuestión de tiempo. en un entrevista de la bbc, dice refiriéndose a los chatbots de IA, mencionando su peligrosidad como “bastante aterrador”. Explicó que en inteligencia artificial, las redes neuronales son sistemas similares al cerebro humano en la forma en que aprenden y procesan la información. Lo que hace que las IA aprendan de la experiencia, al igual que nosotros. Esto es aprendizaje profundo.
Comparando los sistemas digitales con nuestros sistemas biológicos, destacó
IA en manos de los “malos actores”
Aún así, para la BBC, Hinton mencionó los peligros reales de tener chatbots de IA en las manos equivocadas, explicando la expresión “malos actores” que había usado antes de hablar con The New York Times. Él cree que la inteligencia poderosa podría ser devastadora si está en las manos equivocadas, refiriéndose a grandes gobiernos como Rusia.
La importancia del desarrollo responsable de la IA
Es importante decir que, a diferencia de los muchos signatarios de la Carta Abierta mencionados al comienzo de este artículo, Hinton no cree que debamos detener el progreso de la IA y que el gobierno deba hacerse cargo del desarrollo de políticas para garantizar que la IA siga evolucionando de manera segura. dijo Hinton a la BBC. Mencionó además que sería difícil estar seguro si todos realmente detuvieran su investigación, debido a la competencia internacional.
Debo decir que ya he escrito algunos artículos sobre IA aquí, y este podría ser el más difícil hasta ahora. Simplemente no es tan simple equilibrar riesgos y beneficios.
Cuando pienso en las muchas victorias y avances que el mundo está logrando a través de la IA, es imposible no preguntarse cómo la sociedad podría crecer y obtener grandes ventajas si contamos con un desarrollo responsable de la IA.
Puede ayudar al desarrollo humano en muchos campos, como la investigación en salud y los descubrimientos que ya están logrando grandes avances con recursos de IA.
Aquí en Rock, como especialistas en marketing de contenido, creemos que la eficiencia de la IA podría funcionar en armonía con la creatividad humana. Usamos herramientas de escritura de IA a diario. Eso sí, de forma responsable. Evitando la desinformación o el plagio, y primando la originalidad.
El mundo ciertamente podría beneficiarse enormemente si tenemos estos arsenales tecnológicos trabajando para el bien común, junto con las personas y sus habilidades humanas que no pueden ser copiadas por máquinas. Nuestras mentes emocionales y creativas siguen siendo accesibles, únicas y exclusivas por naturaleza.
Es por eso que creo que es posible considerar las relaciones humanos-IA siempre que tengamos políticas y regulaciones bien definidas para garantizar un futuro seguro y próspero para la humanidad.
