Este artículo se publicó originalmente en el substack de Georg Diez, Supervivencia en el siglo XXI
I.
El laboratorio de frontera es el marco institucional a través del cual hoy se moldea el futuro. Son los tecnólogos quienes dan forma a este futuro, y lo hacen en nombre y en interés de empresas privadas como OpenAI o Anthropic, que se sustentan en inversiones de tal magnitud que su colapso resultaría en una catástrofe económica y, por ende, social.
Lo que está faltando es la contraparte democrática de este modelo. Si bien el mundo que emerge del laboratorio de frontera es radicalmente digital, el sistema que utilizamos para definir la sociedad y la política es radicalmente analógico. El siglo XXI se encuentra con el siglo XIX. Es evidente quién sale perdiendo.
La conclusión, si queremos salvar la democracia reinventándola, es la siguiente: las instituciones del mañana deben moldearse de acuerdo con las posibilidades del mañana. Esto se aplica tanto a la administración pública como a las escuelas, universidades, instituciones políticas, parlamentos, partidos políticos y el espacio público. Hasta ahora, hemos visto que los tecnólogos crean hechos consumados, mientras los demócratas observan.
En lo que respecta al futuro de la democracia, es crucial situar la innovación institucional en el centro de nuestra reflexión: ¿Qué tipo de instituciones son apropiadas para la era de la IA, en la que los fundamentos de la política y la sociedad están experimentando una transformación radical? ¿Y qué podemos aprender de quienes ya están dando forma a las instituciones del futuro, aunque sin un impulso democrático?
Siempre es útil escuchar a alguien como Sam Altman, director ejecutivo de OpenAI, o a Dario Amodei, de Anthropic, cuando hablan sobre las implicaciones y consecuencias de su trabajo, especialmente para la práctica democrática, el futuro del trabajo o la cohesión social. A diferencia del intelectualmente ambicioso Amodei, el muy despistado Altman hace que resulte perturbador cometer el error de esperar que estos personajes proporcionen las respuestas a las preguntas democráticas del mañana.
Lo que han aportado hasta ahora es infraestructura, no teoría política; la tarea consiste en democratizar esta infraestructura y crear nuevas infraestructuras que, a su vez, transformen la democracia.
En un presente que ha perdido todo equilibrio, es frecuente pedir soluciones, en primer lugar, a quienes son responsables de los problemas. No son los tecnólogos quienes deben desarrollar la democracia del mañana – carecen de la ambición y la formación necesarias para ello, y no les interesa ni les corresponde –, sino que las ideas deben surgir de la política y la sociedad civil, que, sin embargo, a menudo carecen de la comprensión tecnológica de los retos y las oportunidades que presentan, por ejemplo, los grandes modelos lingüísticos.
Esta contradicción fundamental debe resolverse. Solo se encontrarán respuestas genuinas a la crisis democrática si quienes no son tecnólogos reconocen su propia falta de conocimiento y se esfuerzan por comprender las realidades tecnológicas de nuestro tiempo, no en busca de soluciones tecnocráticas, sino de soluciones que estén a la altura de la tecnología misma.
II.
Es la naturaleza radical del laboratorio de frontera lo que lo hace tan singular. Están exentos de la supervisión democrática, pero actúan – en términos de poder económico y disrupción institucional – casi como estados. Sus intenciones son opacas, pero se los trata como socios, como actores racionales en un juego con reglas. Al mismo tiempo, se mantienen en un estado constante de experimentación, obedeciendo pocas reglas más allá de su propia lógica interna y del capital de riesgo.
OpenAI, Anthropic y Google están, por lo tanto, reemplazando instituciones, estructuras y formas de pensar esenciales en la práctica política. Estamos presenciando cómo sociedades de todo el mundo se transforman en espacios experimentales, sin que los parámetros de estos experimentos estén claros, sin que los objetivos y supuestos se comuniquen de manera comprensible, y sin ningún medio efectivo de participación pública o supervisión política.
El funcionamiento del laboratorio de frontera es, en muchos aspectos, un misterio, y los exempleados de OpenAI o Anthropic están obligados por contrato a guardar silencio. Sin embargo, existen informes, como el de Calvin French-Owen, de los que se pueden deducir algunos principios aplicables a OpenAI; creo que estos también ofrecen perspectivas sobre la forma que podría adoptar la práctica política democrática en el futuro.
En primer lugar, según French-Owen, OpenAI es “increíblemente participativa, sobre todo en investigación”: “Cuando llegué, pregunté por la hoja de ruta para el próximo trimestre. La respuesta fue: ‘No hay ninguna’ (aunque ahora sí existe)”. Las buenas ideas pueden surgir de cualquier parte, y a menudo no está claro de antemano cuáles resultarán más fructíferas. En lugar de un “plan maestro” a gran escala, el progreso es iterativo y solo se hace evidente cuando los nuevos hallazgos de la investigación dan sus frutos.
En segundo lugar, gracias a su cultura participativa, OpenAI es altamente meritocrática. “Antes, los líderes de la empresa eran ascendidos principalmente por su capacidad para desarrollar buenas ideas e implementarlas. Muchos líderes sumamente competentes no se destacaban en aspectos como dar presentaciones a todo el personal o en las maniobras políticas. Esto tiene menos peso en OpenAI que en otras empresas. Las mejores ideas suelen prevalecer”.
Owen-French describe “una marcada inclinación a la acción (simplemente puedes hacer las cosas)” como el tercer aspecto clave de la cultura de OpenAI: no es raro que equipos similares pero independientes propongan ideas diferentes. Lo fundamental es que los proyectos sean abordados por un pequeño grupo de personas sin necesidad de pedir permiso. “En cuanto estos proyectos demuestran ser prometedores, se forman rápidamente equipos a su alrededor”.
Un cuarto elemento del particular enfoque del laboratorio de frontera está en los investigadores, quienes actúan como sus propios “mini-ejecutivos”. “Existe una fuerte tendencia a trabajar en el propio proyecto y esperar a ver cómo se desarrolla. Esto conlleva una consecuencia lógica: la mayoría de las investigaciones surgen cuando a un investigador se le asigna específicamente un problema en particular. Si algo se considera aburrido o ‘resuelto’, es poco probable que alguien trabaje en ello”.
Para Owen-French, un quinto factor del éxito de OpenAI es la capacidad de cambiar de rumbo rápidamente: “Es mucho mejor hacer lo correcto en cuanto se recibe nueva información que aferrarse a un plan solo porque se tenía uno. Es sorprendente que una empresa tan grande como OpenAI mantenga esta actitud; Google, obviamente, no. La empresa toma decisiones con rapidez y, cuando elige una dirección, se compromete plenamente con ella”.
Jerarquías horizontales y ascendentes, rendimiento por encima de la gestión, autonomía y confianza, acción y experimentación, y la capacidad de revolucionarlo todo: un buen resumen de los principios del laboratorio de frontera lo ofrece la publicación del blog de Nathan Lambert, que se resume así: "se lanza el producto según el organigrama": el producto es, en última instancia, consecuencia de decisiones que están integradas en la estructura organizativa de la empresa y la reflejan.
La idea unificadora que subyace es que se trata de pequeñas unidades que operan aquí en el marco de un plan más amplio, y la presión – la presión por justificarlo – no recae sobre lo nuevo para demostrar lo que puede hacer, sino sobre lo antiguo para demostrar por qué deberíamos conservarlo.
Así pues, si uno quiere desarrollar una nueva práctica democrática, no se trata de romper el viejo sistema a cualquier precio; se trata de reconocer las posibilidades – y también las necesidades – que surgen en la práctica del laboratorio de frontera y cómo se pueden aprovechar democráticamente.
Porque, por supuesto, los propios laboratorios en su forma actual no son los pilares de un futuro democrático. En su excelente libro El imperio de la IA, Karen Hao describe el funcionamiento interno de OpenAI con una claridad crítica: en los inicios de la empresa, escribe, aproximadamente una cuarta parte de los empleados eran mujeres o personas no binarias; los ejecutivos eran casi todos hombres blancos.
Y la filosofía de las empresas de IA – tal como se articula, por ejemplo, en los textos de Dario Amodei, director ejecutivo de Anthropic, y en el manifiesto ampliamente leído de Leopold Aschenbrenner, quien formó parte del equipo "Superalignment" de OpenAI hasta 2024 – es bastante clara: es un pequeño grupo de personas el que tiene derecho a dirigir el desarrollo de la IA.
La lógica y la estrategia son, por lo tanto, leninistas: “Probablemente solo haya unas pocas docenas de personas que realmente ‘necesitan saber’ los detalles clave de la implementación de un avance algorítmico determinado en un laboratorio determinado”, escribe Aschenbrenner. “Puedes seleccionar, aislar y monitorear intensivamente a estas personas, además de mejorar radicalmente la seguridad de la información”.
O como lo expresó Lenin en 1920 en "¿Qué hacer?": "La organización de los revolucionarios, por otro lado, debe incluir ante todo a personas cuya profesión sea la actividad revolucionaria". Y añadió: "Esta organización no tiene por qué ser muy extensa y debe ser lo más conspirativa posible".
III.
La democracia funciona de manera diferente. Pero quizás, en ciertos momentos, deba funcionar así, al menos en parte. Porque, al fin y al cabo, la pregunta es: ¿qué se entiende por democracia: forma o contenido? Ambos se complementan de maneras únicas y no siempre idénticas.
Actualmente, la forma de la democracia está en crisis, una crisis de contenido. No es fácil determinar qué surge primero: las contradicciones sistémicas de un estilo de gobierno que no se corresponde con las posibilidades, las exigencias ni la experiencia de nuestro tiempo, o la resistencia sistémica que se desata con toda vehemencia de manera fascista.
Pero ese no es el punto: la cuestión radica en ver el problema – y, por ende, también la solución – en la estructura misma del sistema, entendido no como una ideología, sino como una infraestructura. Entonces, ¿cómo se procesa la información hoy en día, social y, sobre todo, políticamente? ¿Cómo se toman, comunican e implementan las decisiones?
Lo que nos espera es una reforma integral del sistema, en la que se pueden conservar algunas partes. Esto requiere valentía y determinación, y probablemente estructuras similares a las de laboratorio de frontera; las contradicciones democráticas inherentes a esta forma de política de vanguardia deben ser analizadas y resueltas. La práctica misma debe someterse a prueba.
Esto no significaría dirigir un partido político como si fuera una empresa o una startup; significaría generar la energía necesaria para encontrar respuestas y soluciones experimentales, nuevas y mejores a los problemas actuales.
Todo esto tiene implicaciones muy prácticas. Los laboratorios de frontera están atrayendo capital y talento que escasean en otros ámbitos. Ya no es un tópico que en la política organizada, en muchos niveles – desde la base hasta la cima –, falta talento, se malgastan las ambiciones y se frena el desarrollo de personas prometedoras. Existen tantos incentivos perversos que la política, en su forma actual, jamás logrará captar a las mentes más brillantes.
Estas mentalidades, a su vez, no siguen la misma lógica que los partidos políticos, que se remontan a una época en la que los currículos lineales y las carreras predecibles eran la norma; por lo tanto, el objetivo no puede ser reemplazar una o dos generaciones de políticos profesionales por una nueva generación de políticos profesionales.
La lógica de las nuevas posibilidades tecnológicas haría obsoleta la profesión del político de carrera. La política como profesión, como la denominó Max Weber, es producto de la primera revolución industrial del siglo XIX; en las condiciones de la próxima revolución industrial, este ámbito, al igual que prácticamente todas las demás áreas de la sociedad y las instituciones, también cambiará.
Estos cambios generan temor y fuerzas centrífugas. Las fuerzas de resistencia del antiguo sistema son fuertes, especialmente porque afectan a las personas que han encontrado su rol, propósito y seguridad dentro de ese sistema.
Todo esto puede llevarnos a alejarnos de la tecnología misma, la infraestructura que sustenta nuestra sociedad, economía y, por consiguiente, política. O bien, podemos acercarnos a estas tecnologías e intentar comprenderlas y moldearlas, buscando percibir y aprovechar su lógica inherente y novedosa para crear instituciones que se adapten a las condiciones de la época para la que fueron concebidas.
Precisamente Bill Gates lo ha resumido a la perfección: Necesitamos un plan para abordar la IA. También se podría decir: Necesitamos política. Necesitamos una política que opere al nivel que impone la tecnología. Necesitamos una nueva política.
Lo que hemos visto hasta ahora, de diversas formas, es la falta de ambición organizada por parte de quienes ostentan el poder político. Sin embargo, las convulsiones de nuestro tiempo son reales y no pueden abordarse con la mediocridad habitual.
