Gary Marcus: un experto en IA preocupado por el futuro

Gary Marcus (Baltimore, EE UU, 54 años) ha sido una de las voces más activas en redes sociales advirtiendo sobre los peligros de que Donald Trump llegara a la Casa Blanca, especialmente con el apoyo de Elon Musk. Ahora que esto se ha materializado, Marcus expresa su profunda preocupación. Reconocido como una autoridad en el campo de la inteligencia artificial (IA) y sus riesgos, testificó ante el Senado junto a Sam Altman de OpenAI sobre la necesidad de regular esta tecnología. En su libro Taming Silicon Valley, Marcus advierte que la IA generativa podría empeorar el mundo si no se controla adecuadamente.

Trayectoria académica y empresarial

Como profesor de psicología y neurociencia en la Universidad de Nueva York, Marcus ha investigado la intersección entre la psicología cognitiva y la IA durante décadas. Además, ha fundado dos startups: Geometric Intelligence, adquirida por Uber en 2016, y Robust.AI, destinada al desarrollo de software para robots autónomos.

Controversia en redes sociales

Marcus es un crítico frecuente de Elon Musk en plataformas como X y ha tenido enfrentamientos con figuras como Yann LeCun. Acusa a LeCun de ser un «ególatra intelectualmente deshonesto» por sus acciones respecto a los grandes modelos de lenguaje (LLM).

Preocupaciones tras la victoria de Trump

Pregunta: ¿Cómo ve el futuro tras la victoria de Trump en las presidenciales?

Respuesta: Oscuro. La IA generativa conlleva muchos riesgos, y no creo que haya una regulación significativa bajo la administración Trump. EE UU carece de leyes específicas sobre IA para proteger a sus ciudadanos.

Intentos de regulación estatal

P: ¿Considera que algunos Estados puedan aprobar sus propias leyes sobre IA?

R: Aunque California ha intentado legislar sobre la transparencia de datos, los grupos de presión de Silicon Valley han bloqueado medidas como la SB-1047. Sin embargo, podría ser necesario un gran desastre para impulsar cambios legislativos.

El papel de Elon Musk

P: ¿Qué espera de Elon Musk en la Administración Trump?

R: Elon Musk, quien antes advertía sobre los riesgos de la IA, ahora está profundamente involucrado en su desarrollo. Es probable que busque subvenciones gubernamentales para la IA, a pesar de los riesgos.

Impacto medioambiental

Es irónico que Musk, quien ha ganado mucho con Tesla, ahora apoye una IA que consume grandes cantidades de energía y agua. Se espera que la administración Trump relaje las regulaciones ambientales para favorecer la generación de energía necesaria para la IA.

Estamos dando a los creadores de IA un poder extraordinario.

Uso de energía nuclear

P: ¿Ve factible el uso de centrales nucleares para alimentar centros de datos bajo Trump?

R: Probablemente, sí. Aunque la energía nuclear tiene sentido, destinarla a modelos lingüísticos gigantescos no es el mejor uso.

Conflictos de intereses

P: ¿Puede un miembro del Gobierno poseer una importante plataforma de medios sociales?

R: Trump no tiene noción de conflicto de intereses, y en general, ha ignorado muchas normas. Esto llevará a un cambio significativo en EE UU para 2025.

Si la IA generativa no se vuelve rentable rápidamente, la burbuja estallará.

Desafíos para las grandes tecnológicas

P: ¿Prosperarán las grandes tecnológicas bajo Trump?

R: Twitter ha cambiado bajo Elon, pero el mayor desafío es la fantasía de que la IA generativa traerá la IA general, lo cual es improbable. Si no es rentable, puede estallar la burbuja tecnológica.

Impacto de la IA en la privacidad

P: ¿Qué esperar de la IA respecto a la privacidad y el capitalismo de vigilancia?

R: La IA avanzará el capitalismo de vigilancia. Los modelos de lenguaje pueden moldear creencias y ya se usan para generar desinformación y ciberdelincuencia. Los beneficios irán a las grandes empresas, mientras que los costes recaerán en la sociedad.

Control de Silicon Valley

P: ¿Cómo podemos domar Silicon Valley?

R: La ciudadanía debe unirse y exigir a la gran tecnología que mejore. Solo así veremos un cambio significativo.