¡Increíble! Descubre cómo una simple discusión con tu jefe podría hacer que la IA te despida en 24 horas.

Elon Musk ha afirmado que Grok, el chatbot de xAI, es “la IA más inteligente del mundo”. Y no es difícil de entender por qué lo dice. Recientemente, Grok declaró que la “inteligencia de Musk se encuentra entre las 10 mentes más brillantes de la historia”, comparándolo con genios como Leonardo da Vinci o Isaac Newton, gracias a sus innovaciones en diversas áreas. Además, el bot se atrevió a afirmar que Musk “supera” al famoso jugador de baloncesto LeBron James “en aptitud física holística”, que podría vencer al campeón mundial de boxeo Mike Tyson en una pelea, y que es “el mejor amante del mundo”.

Sin embargo, Musk ha explicado que estas respuestas fueron producto de lo que se conoce como “incitación adversarial”, un método que busca engañar a las IA para que produzcan respuestas que no fueron programadas. Desde entonces, Grok ha moderado sus respuestas. En la actualidad, aunque sigue elogiando a Musk, ya no lo considera mejor atleta que James y ha señalado que algunas de sus afirmaciones previas eran irónicas.

Más allá de la comicidad de este episodio, el incidente pone de relieve algo más profundo: la inteligencia artificial actúa más como un amplificador que como un correctivo de las patológicas gerenciales que pueden existir en las organizaciones. A medida que más directores ejecutivos tienden a silenciar las voces disidentes dentro de sus empresas, Grok se convierte en un caso ejemplar de por qué esta tendencia humana a rodearse de aduladores es aún más peligrosa en la era de la IA, especialmente para aquellas compañías que buscan innovar constantemente.

Las organizaciones que fomentan la adulación generan IA defectuosas por dos motivos inherentes a la naturaleza de estos sistemas. En primer lugar, las IA se desarrollan, no se diseñan. Esto significa que no siempre ejecutan lo que se espera de ellas; son, en esencia, creaciones probabilísticas, moldeables en tendencias, pero con comportamientos que pueden resultar aleatorios. Es poco probable que los responsables de Grok hubiesen tenido la intención de crear un chatbot que describiera a Musk como un paradigma de virtudes. Sin embargo, si la cultura de xAI llevó a su equipo a pensar que la adulación era una estrategia ganadora ante su famoso y temperamental jefe, eso terminaría reflejándose inevitablemente en la tecnología.

En segundo lugar, el comportamiento de los sistemas de inteligencia artificial, incluidos sus sesgos, es un reflejo de los datos con los que han sido entrenados. Grok fue alimentado en parte por datos de X, una plataforma que, bajo la gestión de Musk, ha evolucionado y utiliza algoritmos para maximizar su alcance e influencia. Si uno se toma unos minutos para revisar X, verá que los mensajes de Musk suelen aparecer cerca de la parte superior de su feed, recibiendo un número aparentemente infinito de respuestas de fanáticos (o bots). Todo esto crea un patrón que es evidente: Musk siempre tiene razón. Con esta clase de datos, lo único sorprendente es que Grok tardara tanto en revelar sus inclinaciones.

No obstante, este fenómeno no se limita solo a Musk y Grok. Muchas organizaciones han sido construidas en torno a la complacencia con los deseos del líder. Esto se observa especialmente entre las grandes empresas de Silicon Valley, que invierten decenas de miles de millones en inteligencia artificial. Por ejemplo, Mark Zuckerberg, CEO de Meta Platforms Inc., presentó una vez una camiseta que decía “aut Zuck, aut nihil” (o Zuckerberg o nada). Esta declaración puede parecer superficial, pero al analizar cómo ha reinventado a su empresa con una nueva imagen de “energía masculina” este año, se comprende mejor su significado.

La adulación representa un peligro inherente para cualquier organización, y los líderes conscientes deben tomar medidas para contrarrestarla. El reciente escándalo de Grok pone de manifiesto cuán peligrosa puede ser esta dinámica para aquellas empresas que desarrollan tecnología de inteligencia artificial. Cualquiera que sea la tecnología que se diseñe, los sistemas resultantes reflejarán la cultura real de la organización, no la que se proclama. Los líderes que desean crear el futuro de la IA deberían enfocarse en maximizar la inteligencia natural de sus empleados, promoviendo un entorno en el que la verdad, y no la adulación, sea la norma.