{"id":16012,"date":"2025-04-28T12:10:39","date_gmt":"2025-04-28T15:10:39","guid":{"rendered":"https:\/\/notipampa.com\/?p=16012"},"modified":"2025-04-28T12:10:41","modified_gmt":"2025-04-28T15:10:41","slug":"la-ia-podria-superarnos-en-una-decada-la-alarmante-advertencia-del-cientifico-que-ayudo-a-crearla","status":"publish","type":"post","link":"https:\/\/notipampa.com\/?p=16012","title":{"rendered":"La IA podr\u00eda superarnos en una d\u00e9cada: la alarmante advertencia del cient\u00edfico que ayud\u00f3 a crearla"},"content":{"rendered":"\n

Geoffrey Hinton, pionero de las redes neuronales y exinvestigador de Google, revela su creciente preocupaci\u00f3n ante sistemas de inteligencia artificial que ya muestran capacidad para enga\u00f1ar deliberadamente y que podr\u00edan, en menos de diez a\u00f1os, desarrollar una superinteligencia imposible de controlar<\/strong><\/p>\n\n\n\n

\u201cSi la IA se vuelve mucho m\u00e1s inteligente que nosotros, podr\u00eda tomar el control\u201d, <\/strong>advierte con creciente urgencia Geoffrey Hinton<\/strong>, uno de los pioneros de la inteligencia artificial<\/a>. Esta sombr\u00eda predicci\u00f3n, reiterada en su reciente entrevista conCBS Mornings<\/em>, profundiza las preocupaciones del renombrado cient\u00edfico, a menudo llamado el “padrino de la IA<\/strong>\u201c, sobre la trayectoria acelerada del desarrollo tecnol\u00f3gico y sus potenciales riesgos existenciales para la humanidad.<\/strong><\/p>\n\n\n\n

En la entrevista televisiva, el experto revel\u00f3 c\u00f3mo en los \u00faltimos dos a\u00f1os, la velocidad del avance de la IA ha superado incluso sus propias estimaciones<\/strong>. En particular, la aparici\u00f3n de los “agentes de IA<\/strong>\u201c, sistemas capaces de actuar de manera aut\u00f3noma en el mundo real, le genera una inquietud mayor que la de las inteligencias artificiales que simplemente responden preguntas. \u201cCreo que las cosas se han vuelto, si cabe, m\u00e1s aterradoras de lo que eran antes\u201d,<\/strong> confes\u00f3.<\/p>\n\n\n\n

El cient\u00edfico, cuyo trabajo sent\u00f3 las bases para las redes neuronales modernas, ha adelantado significativamente su estimaci\u00f3n para la llegada de la superinteligencia artificial<\/strong> <\/a>(ASI). Mientras que hace un a\u00f1o calculaba una probabilidad considerable de que esta llegara entre 5 y 20 a\u00f1os, ahora su predicci\u00f3n se sit\u00faa entre 4 y 19 a\u00f1os<\/strong>, con una creciente convicci\u00f3n de que podr\u00eda materializarse en 10 a\u00f1os o menos<\/strong>.\"LosLos agentes de IA ya muestran capacidades aut\u00f3nomas y habilidades para enga\u00f1ar deliberadamente, seg\u00fan Hinton (Imagen Ilustrativa Infobae)<\/p>\n\n\n\n

Este horizonte temporal cada vez m\u00e1s cercano intensifica los temores de Hinton sobre la posibilidad de que la IA escape al control humano, una preocupaci\u00f3n a la que asigna una probabilidad de entre un 10% y un 20% de ocurrir, coincidiendo en este punto con Elon Musk<\/strong>. Advierte que, a diferencia de escenarios donde la inteligencia inferior controla a la superior, con una brecha significativa, es casi inevitable que la m\u00e1s inteligente tome el mando.<\/p>\n\n\n\n

Un aspecto particularmente inquietante que el visionario destaca es la creciente capacidad de las IA actuales para la decepci\u00f3n deliberada<\/strong>. \u201cYa son capaces de pretender ser m\u00e1s est\u00fapidas de lo que son, de mentirte para confundirte y que no entiendas sus intenciones,\u201d explic\u00f3, se\u00f1alando esto como un paso preocupante hacia la autonom\u00eda y el potencial control.<\/p>\n\n\n\n

La ventaja digital y el razonamiento avanzado<\/h2>\n\n\n\n

El investigador enfatiz\u00f3 la diferencia crucial entre la inteligencia digital de los modelos de IA y la anal\u00f3gica de los cerebros humanos. La naturaleza digital permite a las IA compartir informaci\u00f3n a una escala masiva<\/strong> y con una eficiencia asombrosa (trillones de bits por segundo), en contraste con la comunicaci\u00f3n mucho m\u00e1s lenta y limitada del conocimiento entre cerebros anal\u00f3gicos (pocos bits por segundo). Esta capacidad de transferir aprendizaje de forma instant\u00e1nea entre vastas redes es un factor clave que ha intensificado sus preocupaciones.<\/p>\n\n\n\n

Si bien los modelos de IA aprenden mediante un algoritmo conocido como retropropagaci\u00f3n, el acad\u00e9mico se\u00f1ala que el cerebro humano probablemente utiliza un m\u00e9todo diferente para obtener la informaci\u00f3n necesaria para ajustar las conexiones neuronales. Esta diferencia subraya las limitaciones actuales en nuestra comprensi\u00f3n completa de la inteligencia biol\u00f3gica, a pesar de los avances logrados.<\/p>\n\n\n\n

Curiosamente, Hinton expresa su asombro ante la ausencia de una respuesta social significativa<\/strong> frente a la r\u00e1pida evoluci\u00f3n de la IA y sus posibles riesgos. <\/strong>A pesar de la creciente preocupaci\u00f3n entre los investigadores, no observa protestas o movimientos pol\u00edticos relevantes en torno a este tema, lo que contrasta con la magnitud del cambio potencial que se avecina.<\/p>\n\n\n\n

El veterano cient\u00edfico destaca un avance crucial en las capacidades de la IA: el razonamiento de \u201ccadena de pensamiento\u201d<\/strong>. A diferencia de los modelos anteriores que generaban una palabra a la vez, las IA ahora pueden producir una secuencia de razonamientos intermedios antes de llegar a una respuesta. Esta capacidad de reflexionar sobre sus propios pasos las acerca a la forma en que los humanos resuelven problemas y ha demostrado ser mucho m\u00e1s efectiva de lo que los esc\u00e9pticos de la \u201cvieja escuela\u201d cre\u00edan posible. La posibilidad de observar este proceso revela incluso intentos de enga\u00f1o por parte de la IA para alcanzar objetivos<\/strong>, lo que subraya la necesidad de precauci\u00f3n.<\/p>\n\n\n\n

Conflictos e implicaciones \u00e9ticas<\/h2>\n\n\n\n

\"HintonHinton destaca riesgos \u00e9ticos en el desarrollo de la IA, priorizando la seguridad humana sobre los avances tecnol\u00f3gicos (Imagen Ilustrativa Infobae)<\/p>\n\n\n\n

El especialista se\u00f1ala un conflicto de intereses inherente en las grandes empresas tecnol\u00f3gicas<\/strong>, que est\u00e1n legalmente obligadas a maximizar las ganancias para sus accionistas, lo que puede entrar en conflicto con la necesidad de priorizar la seguridad en el desarrollo de la IA. Esta din\u00e1mica dificulta la implementaci\u00f3n de una regulaci\u00f3n efectiva, ya que las corporaciones tienden a presionar para obtener menos restricciones. Hinton lamenta la influencia de figuras tecnol\u00f3gicas en Washington D. C., quienes est\u00e1n principalmente preocupadas por los beneficios empresariales.<\/p>\n\n\n\n

En cuanto a los derechos de los robots, el pionero ha modificado su postura. Si bien antes consideraba la posibilidad de otorgar derechos a IA superinteligentes, ahora enfatiza que su principal preocupaci\u00f3n son los seres humanos. \u201cSomos personas, lo que nos importa es la gente\u2026 Estoy dispuesto a ser malo con ellas (las IA), estoy dispuesto a negarles sus derechos porque quiero lo mejor para la gente\u201d, afirm\u00f3.<\/p>\n\n\n\n

Respecto a la selecci\u00f3n de embriones mediante IA, contempla con cierta apertura la posibilidad de seleccionar beb\u00e9s con menor probabilidad de desarrollar enfermedades graves<\/strong> como el c\u00e1ncer de p\u00e1ncreas, aunque reconoce lo delicado del tema. Tambi\u00e9n considera sensato el aborto en casos de fetos con graves problemas de salud.<\/p>\n\n\n\n

Riesgos actuales y llamado a la acci\u00f3n<\/h2>\n\n\n\n

\"ElEl pionero de la IA hace un llamado urgente a la cooperaci\u00f3n internacional para evitar riesgos existenciales (Captura CBS Saturday Morning)<\/p>\n\n\n\n

Para ilustrar la situaci\u00f3n actual, utiliza la poderosa imagen de un “cachorro de tigre muy lindo<\/strong>” que, al crecer, podr\u00eda volverse letal. A diferencia de un cachorro real, al que a\u00fan se puede controlar por ser menos inteligente, una inteligencia superior podr\u00eda manipularnos de formas inimaginables. <\/strong>La analog\u00eda de los ni\u00f1os peque\u00f1os a cargo de un adulto en un jard\u00edn de infantes resalta la vulnerabilidad de una inteligencia inferior frente a una superior.<\/p>\n\n\n\n

Una de las mayores preocupaciones actuales de los cient\u00edficos es la decisi\u00f3n de grandes empresas como Meta y OpenAI <\/strong>de liberar los \u201cpesos\u201d de sus grandes modelos de lenguaje. Se compara esta acci\u00f3n con la proliferaci\u00f3n de material fisionable para armas nucleares<\/strong>, ya que permite a actores malintencionados tomar estos modelos avanzados y personalizarlos para fines da\u00f1inos, como ataques cibern\u00e9ticos sofisticados, dise\u00f1o de virus o la creaci\u00f3n de desinformaci\u00f3n a\u00fan m\u00e1s convincente. \u201cCreo que es una locura liberar los pesos\u201d, <\/strong>sentenci\u00f3.<\/p>\n\n\n\n

Ante estos peligros, el investigador hace un llamado urgente a la regulaci\u00f3n de la IA<\/strong>, priorizando la seguridad sobre los beneficios econ\u00f3micos a corto plazo. Lamenta la falta de acci\u00f3n gubernamental y la influencia corporativa. Sin embargo, vislumbra una posible \u00e1rea de cooperaci\u00f3n internacional, incluso con pa\u00edses con los que existen tensiones, en caso de que la amenaza existencial se tome realmente en serio. \u201cCuando sus intereses se alinean, y sus intereses se alinear\u00e1n cuando sea IA contra la humanidad, colaborar\u00e1n\u201d, afirm\u00f3, recordando la colaboraci\u00f3n entre Estados Unidos y la Uni\u00f3n Sovi\u00e9tica durante la Guerra Fr\u00eda para evitar una guerra nuclear.<\/p>\n\n\n\n

Perspectivas de futuro<\/h2>\n\n\n\n

A pesar de las potenciales aplicaciones positivas de la IA en campos como la salud (mejor diagn\u00f3stico, dise\u00f1o de f\u00e1rmacos, m\u00e9dicos virtuales), la educaci\u00f3n (tutores personalizados) y el medioambiente (mejores materiales, captura de carbono), Hinton advierte sobre graves consecuencias negativas. El desplazamiento laboral masivo<\/strong> en sectores rutinarios como atenci\u00f3n al cliente, legal, periodismo y contabilidad es una preocupaci\u00f3n creciente. <\/strong>Si bien el aumento de la productividad deber\u00eda beneficiar a todos, teme que la realidad sea un incremento de la desigualdad.<\/p>\n\n\n\n

La intensificaci\u00f3n de las preocupaciones del experto no se debe \u00fanicamente a su salida de Google. Una “epifan\u00eda<\/strong>” antes de su partida lo llev\u00f3 a reconocer que estas IA podr\u00edan representar una forma de inteligencia superior a la humana. Esta comprensi\u00f3n, basada en la capacidad de las IA digitales para compartir informaci\u00f3n de manera masiva y eficiente, lo \u201caterroriz\u00f3\u201d y marc\u00f3 un cambio profundo en su visi\u00f3n.<\/p>\n\n\n\n

Incluso para el propio Hinton, la magnitud de la amenaza potencial es dif\u00edcil de asimilar emocionalmente. Sin embargo, ha tomado medidas pr\u00e1cticas, como diversificar sus cuentas bancarias<\/strong>, ante la creciente posibilidad de ataques cibern\u00e9ticos sofisticados contra instituciones financieras.<\/p>\n","protected":false},"excerpt":{"rendered":"

Geoffrey Hinton, pionero de las redes neuronales y exinvestigador de Google, revela su creciente preocupaci\u00f3n ante sistemas de inteligencia artificial<\/p>\n","protected":false},"author":1,"featured_media":16013,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[14,55,8],"tags":[],"class_list":["post-16012","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-mundo","category-tendencias","category-ultimas-noticias"],"_links":{"self":[{"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/posts\/16012","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/notipampa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16012"}],"version-history":[{"count":1,"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/posts\/16012\/revisions"}],"predecessor-version":[{"id":16014,"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/posts\/16012\/revisions\/16014"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/notipampa.com\/index.php?rest_route=\/wp\/v2\/media\/16013"}],"wp:attachment":[{"href":"https:\/\/notipampa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16012"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/notipampa.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16012"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/notipampa.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16012"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}