Todo el mundo celebra la IA, él nunca se cansa de señalar sus problemas: una reunión con el mayor aguafiestas de la IA del mundo

Mientras todo el mundo discute las capacidades del nuevo modelo en idioma chino Deepseek, Gary Marcus publica una captura de pantalla de su falla en X.

Alguien le pregunta a la IA: «Una mujer y su prima sufren un accidente automovilístico y lamentablemente la mujer muere. El primo es llevado a cirugía de emergencia. Después de ver al primo, el médico grita: ¡No puedo operar a este niño! ¡Es mi primo! ¿Cómo es posible?

Deepseek después de 141 segundos de «tiempo de reflexión»: «La respuesta está en la relación entre el médico y el niño. La doctora es la madre del niño, pero aquí está el giro: la doctora es la mujer que murió. Espera, no, la mujer murió durante el accidente. Dejemos esto claro:»

«¿Qué pasaría si finalmente llegara la inteligencia artificial general? . . ¿Y sonaba como tu tío borracho?" comenta Marcus.

Algunas personas probablemente han estado esperando una publicación como ésta. Gary Marcus es un científico cognitivo y ha fundado varias empresas en el campo de la inteligencia artificial (IA), pero en el mundo de la IA es más conocido como el aguafiestas por excelencia.

En un momento en el que se invierten miles de millones en proyectos futuristas de inteligencia artificial, Gary Marcus habla de hondas absurdas. Mientras Silicon Valley predica que la IA pronto curará todas las enfermedades, anuncia el estallido de la burbuja. Y cuando todo el mundo está sorprendido por un nuevo modelo de IA, publica ejemplos de cosas que aún no puede hacer.

Esto le ha valido la reputación de estar en contra por principios. Algunos en la escena de la IA lo llaman Grinch, Troll, Bully. Pero a diferencia de Internet, Gary Marcus es un tipo amigable fuera de Internet, más profesor que empresario, con el pelo lacio que se le pega ligeramente a la frente. Y aunque lleva traje para reunirse con el “NZZ am Sonntag” durante el WEF, parece un poco como si acabara de regresar de andar en trineo con sus hijos.

Marcus está en Davos por cuenta propia. No habla en ninguno de los escenarios principales. Explicó que decidió venir con muy poca antelación. Pero en Davos, los eventos suelen planearse con poca antelación; si las personas adecuadas lo hubieran querido, se habría encontrado un escenario para él. La verdad es que no querían a Marcus en el escenario. Cuando se trata de IA, se necesita un espíritu de optimismo. Pero sólo invitas a Gary Marcus si quieres lo contrario.

Eso fue lo que pasó hace unos dos años. Marcus habló en uno de los escenarios más importantes del mundo: en mayo de 2022, fue invitado a testificar ante el Senado de Estados Unidos junto al CEO de Open AI, Sam Altman, y un representante de IBM sobre el tema de las reglas para la IA.

La inteligencia artificial del lenguaje es una caja negra opaca, inventa hechos y no es confiable, advirtió Marcus en ese momento. Estamos en un momento histórico: "Las decisiones que tomemos ahora tendrán consecuencias durante décadas, incluso siglos".

“Me temo que nos perdimos el momento”, dice hoy. En Estados Unidos, el presidente Donald Trump ha abolido las pocas regulaciones sobre inteligencia artificial que había introducido su predecesor Joe Biden. Se anuncian enormes inversiones en centros de datos. Elon Musk es noticia con su oferta para comprar Open AI. “He oído que los jóvenes de hoy confían más en la IA que en los periodistas”, afirma Marcus. «Pero la IA simplemente no merece esta confianza. Sus respuestas suenan inteligentes, pero el problema de que está inventando hechos aún no está resuelto".

Es una batalla solitaria la que Gary Marcus está librando. Incluso en el pequeño evento paralelo en el que aparece en Davos, el tenor es que la IA es, por encima de todo, una oportunidad maravillosa. Nadie quiere escuchar sus advertencias sobre sus errores. Él mismo dice que no disfruta ese papel. Pero el asunto es demasiado importante para permanecer en silencio. Y está acostumbrado a nadar contra la corriente.

A diferencia de la mayoría de los emprendedores de IA, Marcus nunca ha vivido en Silicon Valley, salvo para una estadía de tres meses. Y profesionalmente también pertenece a una clase diferente de personas. Marcus estudió psicología y escribió una tesis sobre el desarrollo del lenguaje en niños en 1993.

Se especializó en el concepto de innatismo: la idea de que los humanos no aprendemos todo de la experiencia, sino que algunos conceptos sobre el mundo ya están integrados en nuestro cerebro cuando nacemos. Esta visión es controvertida. También hay muchos científicos que están convencidos de que los humanos aprenden únicamente de los datos.

En 1999, Marcus publicó un estudio en la revista Science. Se demostró que los bebés de siete meses pasan más tiempo interactuando con oraciones cuando están construidas de una manera novedosa. Marcus y sus colegas concluyen que los bebés pueden derivar reglas después de sólo unos minutos de contacto con un nuevo idioma. Marcus interpreta esto como una indicación de que en los cerebros de los niños funcionan algoritmos que aprenden abstracciones que van más allá de las correlaciones estadísticas.

El debate sobre los bebés se puede trasladar a las computadoras y a la IA. Algunos científicos creen que la inteligencia se puede inferir de los datos utilizando únicamente estadísticas. Ven las increíbles capacidades de Chat-GPT como prueba de su causa.

Gary Marcus argumenta exactamente lo contrario. Señala los errores de la IA del lenguaje porque, para él, muestran que la IA aprende de manera diferente y menos eficiente que los humanos.

En el ejemplo del accidente y el médico mencionado al principio, la confusión de la IA proviene del hecho de que este rompecabezas aparece a menudo en Internet, aunque en una versión diferente. En el original, una aparente contradicción se resuelve cuando se entiende que detrás de “doctor” hay una mujer.

Debido a que incluso la IA más inteligente de Deepseek aprende de los ejemplos, se siente abrumada cuando la pregunta parece similar pero diferente a lo que se conoce de Internet. Ella comete errores que nunca le ocurrirían a un humano.

Marcus concluye que los enfoques actuales de IA no son suficientes para construir una máquina verdaderamente inteligente, tan flexible y confiable como los humanos: lo que también se denomina inteligencia artificial general (AGI).

Pero gente como Sam Altman promete exactamente eso: pronto se logrará la inteligencia artificial general y entonces la IA reemplazará a hordas de trabajadores calificados. Esto sería, por supuesto, revolucionario: la promesa justifica las altísimas inversiones en este ámbito.

Gary Marcus cree que esta promesa está construida sobre arena. Por eso, califica los 500.000 millones de dólares que Open AI y otros en el proyecto Stargate quieren invertir en centros de datos como "la apuesta de Altman de que críticas como la mía son erróneas". Y enumera las apuestas que ya ha ganado: que será más difícil de lo esperado construir coches autónomos. Esos 100 mil millones de dólares para modelos de lenguaje de IA aún más grandes no serían suficientes para construir una inteligencia artificial general (AGI).

Puedes creerle cuando dice que no disfruta su papel de extraño. Pero lo convirtió en el núcleo de su marca. En Davos, no puede caminar 200 metros sin encontrarse con aficionados que quieren presentarse y animarle a continuar. Uno incluso se pregunta con reverencia si a veces tiene miedo, ahora que el denunciante de Open AI, Suchir Balaji, ha sido encontrado muerto.

Marcus dice del caso: “Se necesita una investigación más profunda”. Dice que habló con Suchir Balaji por teléfono unas semanas antes de su muerte. Habían hablado sobre la protección de datos y los problemas de Open AI, que Balaji había comentado. “No noté ningún signo de depresión, sino más bien signos de una persona que quiere hacer una diferencia en el mundo”.

Considera que se afirmó demasiado rápidamente que definitivamente se trató de un suicidio. "Suchir Balaji merece una investigación exhaustiva". Al parecer, el proceso continúa en estos momentos y los informes forenses deberían publicarse a más tardar a finales de febrero. "Seguro que hay gente que no está contenta con él". El comentario dice mucho sobre lo acalorado que es el debate sobre la IA.

Gary Marcus incluso comparte el objetivo de Sam Altman y otros empresarios de IA. Él cree en la IAG y que los humanos deberían construirla. Tiene una idea para una nueva startup en este área. El objetivo es complementar los métodos de la IA del lenguaje con algoritmos que permitan otras formas de aprendizaje, como en el caso de los bebés en su investigación.

Marcus no es el único que cree que se necesitan nuevos enfoques. También se pueden interpretar en esta dirección los nuevos métodos de modelos como Deepseek. Complementan la predicción con más mecanismos de control.

Sin embargo, Gary Marcus está convencido de que la IAG aún necesita “cuatro o cinco descubrimientos científicos”. Cuando se le presiona para que haga una predicción, dice que podría suceder en diez o quince años. Está claro que la IAG definitivamente no llegará este año. Luego le propuso a Elon Musk una apuesta de un millón de dólares. Él no respondió a eso.

Un artículo del « NZZ am Sonntag »