“El problema de la humanidad es que tenemos emociones paleolíticas, instituciones medievales y tecnologías divinas”.

Todos los días vemos un nuevo ejemplo de cómo la inteligencia artificial incrementa la productividad laboral en una cantidad cada vez más diversa de rubros. A medida que la difusión de la IA sea mayor y sus beneficios más evidentes, también se incrementará nuestra dependencia: las personas que mejor aprendan a incorporar la herramienta tendrán ventajas competitivas respecto a las que no lo hagan. Su dominio será un requisito excluyente para aplicar a ciertos puestos. En un cierto plazo, esta dinámica la convertirá en una herramienta obligatoria, más allá de sus implicancias. Esto no es nuevo y nos lo enseñó hace miles de años la difusión del arado en la agricultura: la tecnología que es muy ventajosa se vuelve obligatoria, nos guste o no.

Antes de la difusión del arado, el animismo era bastante universal entre las sociedades humanas. Es decir, los humanos reconocíamos un carácter sagrado intrínseco a todo ser vivo, lo que moldeaba nuestro vínculo con ellos. Ser animista no nos impedía cazar un animal para comerlo, pero sí nos impedía azotarlo todo el día y pretender que su función en el planeta era servirnos. Cuando los miembros de sociedades animistas mataban a un búfalo no faltaban los rituales y las ceremonias de agradecimiento. El proceso era parte de un ciclo de la vida, en el cual ellos eran predadores.

Con el paso del tiempo, algunas sociedades desarrollaron tecnologías que permitieron labrar la tierra con mayor intensidad y potencia. El arado fue evolucionando y comenzó a ser empujado por ganado. La productividad en la producción de alimentos se disparó, así como también la distancia en el vínculo entre los humanos y sus animales azotados.

Podemos jugar a imaginarnos los debates al interior de una sociedad animista vecina. Muchas personas habrán estado espantadas por cómo esta tecnología degradaba el vínculo con aquello que consideraban sagrado, yendo en contra de valores éticos profundamente arraigados. Por otro lado, seguro  hubo quienes alertaron sobre el riesgo de ser invadidos en el futuro por las bandas vecinas que crecían su tamaño poblacional a costa del maltrato animal. Es probable que fueran varios quienes plantearan que lo mejor era utilizar el arado durante un tiempo —a pesar de sus creencias— para crecer lo suficiente y no sólo evitar que la inmoralidad del vecino se expanda, sino eventualmente también poder invadir a  esos impíos de al lado y restablecer los valores éticos del animismo. Poco podemos saber si estas conversaciones efectivamente fueron así, porque lo cierto es que sólo sobrevivieron aquellas sociedades que utilizaron la herramienta. Cuando la ventaja competitiva de la tecnología es tan grande, la utilización no es opcional. Si mi grupo social no lo hace, lo hará el de al lado, previo a invadirme. Así fue cómo terminamos en  una situación paradójica en la que tenemos el poder para matar al búfalo, pero ya no de salvarlo. 

El animismo desapareció casi por completo, pero su ejemplo sirve para ilustrar tres principios básicos del vínculo entre la tecnología y el comportamiento humano, según el antropólogo Daniel Schmachtenberger:

1. La tecnología que es muy ventajosa se vuelve obligatoria. Lo dicho: quienes la usan trascienden en la historia y quienes no, la quedan. No podés trascender en la historia sin usarla. Alguien más va a usarla, va a aprovecharse de la ventaja tecnológica. Aunque no quiera, tengo que hacerlo, porque el resto lo va a hacer. 

2. La tecnología no es neutral en valores y codifica patrones de comportamiento (paradigmas sociotécnicos). En vez de ser un cazador-recolector, ahora le estoy pegando a un búfalo todo el día. Los efectos pueden ser tanto positivos como negativos y en general suelen ir más allá de lo deseado en primer lugar. En otras palabras, el riesgo de efectos indirectos que modifiquen el comportamiento de forma no deseada es elevado.

3. Al codificar patrones de comportamiento, también codifica sistemas de valores, y al hacerlo a gran escala, codifica la cultura. Desde una perspectiva materialista, la infraestructura condiciona e impacta en la estructura social y la superestructura. La introducción del arado impactó sobre el sistema de valores, que cambió desde “somos parte de una red de vida y toda forma de vida es sagrada” a “la naturaleza está para servirnos”. Ese fue el resultado de una interacción compleja, con un sistema de valores integrado en una infraestructura tecnológica que lo condicionó. Un punto adicional es que, antes del arado, una buena porción de los alimentos eran provistos por mujeres, mientras que luego ese porcentaje pasó a ser minoritario, ya que esta nueva tecnología requería de la fuerza masculina.

Estos principios son muy relevantes para pensar la difusión de la inteligencia artificial y los riesgos que implica para la humanidad. Hace poco, Elon Musk y cientos de personalidades destacadas advirtieron el potencial de la IA de “destruir a la humanidad” firmando una carta donde pedían frenar temporalmente el desarrollo hasta tener una mejor comprensión de los riesgos. Semanas después, el mismo Musk anunció el lanzamiento de un proyecto propio en este campo. Si bien esto pareciera un comportamiento contradictorio, es completamente racional: parte de saber que ni él ni nadie tiene el poder de detener el avance de esta tecnología, por lo que intentará tener un dominio sobre ella que le permita influir en su desarrollo. Es como las tribus animistas que se subieron al uso del arado para que su ética se volviera dominante, ante los riesgos de que ganara “otro con una ética peor”.

Pero en la carrera de la IA no hay tiempo para evaluar efectos de segundo o tercer orden, y quien intente hacerlo simplemente perderá terreno contra quienes no lo hagan. Los incentivos en este tipo de desarrollos se orientan hacia la captura temprana de los beneficios. Nadie tiene incentivos para hacer análisis de riesgos integrales que enlentezcan las posibilidades de capturar mercados. Es para adelante y rápido, porque si no, no es.

Esta dinámica en la que la adopción de ciertas tecnologías se vuelve obligatoria, quizás no era tan grave cuando éramos unos pocos millones de personas en el planeta y los impactos de nuestros desarrollos tecnológicos eran locales. Pero hoy somos una especie planetaria —un forzante geológico— y la misma dinámica puede ser catastrófica tanto para el planeta como para las personas. Por eso, es una de las grandes “trampas multipolares” que enfrenta nuestra sociedad globalizada. Este tipo de trampas se dan en situaciones en las que actores poderosos, como Estados o corporaciones, se vinculan desde la competencia o el conflicto, lo cual lleva a un estado de las cosas de inestabilidad perpetua o incluso de riesgo existencial para la humanidad. Un ejemplo claro es el desarrollo de armas nucleares: en un mundo ideal quisiéramos que no existan, pero ninguna potencia va a ser quien se desarme mientras persista el riesgo de que su adversario esté haciendo lo opuesto. Al final, terminamos en un mundo donde son varios los países con la capacidad real de exterminarse entre sí. Ya en 1953, Robert Oppenheimer, el director del laboratorio que diseñó las bombas nucleares en el marco del proyecto Manhattan, decía en un discurso frente al Consejo de Relaciones Exteriores de los Estados Unidos que “debemos anticipar un estado de situación en el que dos grandes potencias tengan a su alcance la posibilidad de exterminar al oponente, no sin arriesgar su vida. Como dos escorpiones en una botella, cada uno capaz de matar al otro, pero sólo poniendo en riesgo su propia vida”. 

Algo muy similar sucede con el desarrollo de proyectos hidrocarburíferos. Sabemos que, si queremos tener un planeta habitable para nuestra civilización, tenemos que abandonar los hidrocarburos durante las próximas décadas. Ante esta necesidad global inminente, nuestra reacción como humanidad fue la de comenzar una especie de carrera desesperada para ver quién se aprovechará de extraer hasta la última gota que pueda venderse en el mercado y capturar la mayor “renta remanente” posible.

En ese contexto, surgen polémicas alrededor de distintos proyectos hidrocarburíferos en distintos países. Tomemos el ejemplo de Vaca Muerta en Argentina, una verdadera "bomba de carbono": hoy, más de la mitad del gas y petróleo del país provienen de la cuenca. Su potencial podría transformar la macroeconomía argentina, aportando a la balanza comercial, en pocos años, más del doble de lo que hoy aportan las exportaciones agropecuarias. Sobre esta realidad se podrían apalancar inversiones para la transición energética en infraestructura, eficiencia y diversificación de la oferta energética, estimadas por la Secretaría de Energía de la Nación en unos 66 mil millones de dólares hacia el 2030. Sin dudas, Argentina tiene el incentivo de aprovechar lo más que pueda sus recursos disponibles mientras le sea posible.

Sin embargo, hay quienes creen que es necesario detener este tipo de desarrollos, ya que son incompatibles con las metas de calentamiento global. El problema es que los hidrocarburos son un búfalo al que le vamos a tener que pegar, nos guste o no: si el gas y el petróleo no sale de Vaca Muerta, saldrá de Oriente Medio, Rusia o Estados Unidos. De hecho, este informe de ‘The Guardian’ muestra que dos tercios de los 116 mil millones de barriles de gas y petróleo comprometidos en inversiones por las corporaciones energéticas vienen de estas tres regiones ricas. Sin ir más lejos, a comienzos del 2023, Biden dio el visto bueno al desarrollo de uno de los proyectos petrolíferos más riesgosos del planeta, ubicado en Alaska. Por su parte, Noruega, tiene una de las políticas más agresivas en exploración de hidrocarburos, aunque pinte de verde las exportaciones derivadas de ese recurso al invertir en autos eléctricos. 

Se da una situación en la que los países que más contribuyeron a la concentración histórica de gases de efecto invernadero son también quienes se encuentran mejor posicionados para seguir beneficiándose del mercado global de hidrocarburos por una doble vía: por un lado se proyecta que capturarán una porción significativa de la renta hidrocarburífera remanente, y por otro lado son quienes lideran el desarrollo de las tecnologías que luego venden como soluciones al cambio climático, afianzando su rol geopolítico. ¿Es justo que, en un contexto de crisis climática, países como Noruega, Estados Unidos o Australia sigan financiando sus economías exportando hidrocarburos?

Más allá de estos debates éticos respecto a la responsabilidad global por el cambio climático y la justa apropiación de la renta hidrocarburífera remanente, lo cierto es que en la práctica lo que sucederá es que cada país buscará imponer sus intereses para su propio beneficio. Aún cuando no lo quiera, para cada uno de ellos se volverá obligatorio aprovechar las ventajas competitivas si quieren afianzar su dominio por sobre los competidores. Es el comportamiento lógico de cualquier sociedad que se organiza alrededor de excedentes gestados primero por la agricultura, potenciados luego por los hidrocarburos y profundizados finalmente por la digitalización. El arado, los hidrocarburos y la Inteligencia Artificial son sólo las puntas del iceberg.

Lo que une a estos desarrollos —y a cualquier otra tecnología emergente con el potencial de transformar para bien a la humanidad o de poner en riesgo su existencia— es que no nacen de un repollo y no son fruto del mal —o al menos, no sólo—, sino el resultado de comportamientos humanos motivados por sistemas de incentivos. 

Aquellas personas bienintencionadas que buscan salvar a nuestra querida humanidad de los impactos nocivos de estos emprendimientos deben comprender que su lucha no es tanto contra las malas intenciones ajenas, sino más bien, contra los incentivos sistémicos en los que se toman las decisiones. En muchos casos, del otro lado del ring no hay gente mala, sino gente normal haciendo las cosas bien en un sistema que está mal. Los incentivos sistémicos son eso que está en el medio entre lo deseable y lo posible. También, a veces, hay gente mala, pero tiendo a pensar que nos ordenan más los sistemas que las intenciones.

Reconocer que vivimos en un mundo lleno de trampas multipolares implica reconocer que el margen de acción para detener los impactos nocivos de desarrollos tecnológicos en muchos casos es limitado, sino nulo. Esto se agrava en situaciones donde la tecnología es capaz de escabullirse de la instancia coordinatoria: ¿qué pasa, por ejemplo, cuando un modelo de inteligencia artificial es de código abierto? ¿A quién le vamos a reclamar por su uso indebido o por sus impactos no deseados? Cuando un código está liberado, accesible para que lo use cualquiera, no tenemos un domicilio fiscal a quien denunciar ni una casa matriz que escrachar.

Hoy nos encontramos en una carrera a contrarreloj para domesticar a los dioses que creamos. Si no lo hacemos a tiempo, nuestra civilización será el gran búfalo de nuestros tiempos. El abanico de futuros posibles se volvió tan grande como incierto. Hoy, es tan posible pensar un escenario donde la creatividad humana brille gracias a la liberación de las máquinas, como uno donde las máquinas aprendan que el planeta estaría más sano sin la civilización humana y actúen en consecuencia. Nos encontramos en ese momento de la historia en que todavía estamos a tiempo de que los futuros posibles coincidan con los deseables. Tenemos una ventana de oportunidad para tener estas conversaciones. No debemos darla por sentada.