Vivir peligrosamente

A los fantasmas por la enigmática visita de Peter Thiel, uno de los CEOs de Palantir, se suman los producidos por el reciente anuncio oficial del Ministerio de Capital Humano del lanzamiento de “Gemelo Digital Social”, una herramienta basada en inteligencia artificial que, según el Gobierno, busca anticipar y simular escenarios para diseñar políticas públicas. 

Pablo Serdán, abogado y docente de la UBA, explicó en un hilo de X: “La falta de información sobre los contratos, auditorías y límites del proyecto genera una profunda preocupación. El anuncio oficial se presenta con música épica y gráficos de IA, como si cruzar los datos de todos los argentinos y entregarlos a empresas extranjeras para “predecir el futuro” fuera algo inofensivo. Esa liviandad es parte del problema”. Obviamente Serdán no fue el único en reaccionar y expresar preocupación al respecto. Personalidades de distintos partidos políticos como Esteban Paulón, Agustín Rossi y Biondini, por nombrar algunos, también se pronunciaron con escepticismo y desconfianza ante el anuncio en cuestión.

Nuevos dilemas viejos

En su ficción llamada Walden Dos, el psicólogo conductista B. Skinner, nos presenta un experimento que consiste en la creación de una ciudad aislada, diseñada de tal modo que las personas vivan más felices, sin violencia, en un entorno no competitivo sino cooperativo y sintiendo todo el tiempo que toman decisiones libres. Quienes viven allí no saben que sus comportamientos están determinados por el ambiente que ha sido diseñado siguiendo las leyes del condicionamiento operante.

Uno de los cuestionamientos al experimento, dentro de la misma ficción, es que esas personas, aunque se ven felices y se creen libres, viven engañadas y están siendo manipuladas. Ante eso, uno de los responsables y defensores del diseño responde que, como la tecnología para manipular a las personas ya existe, alguien la va a utilizar. Por lo tanto, no se trata de si las personas van a ser manipuladas o no, cosa que va a suceder indefectiblemente. Lo que tenemos que plantearnos entonces es quién va a usar esa tecnología, cómo y para qué.

“La cuestión no es si se fabricarán armas basadas en la IA, sino quién las fabricará y con qué fin. Nuestros adversarios no se detendrán a enzarzarse en debates teatrales sobre las ventajas del desarrollo de tecnologías con aplicaciones críticas para la seguridad nacional y militar. Seguirán adelante”, señala Palantir en su manifiesto.

Publicidad y propaganda

Walton, antecesor de Skinner y uno de los fundadores de la psicología conductista, luego de ser expulsado de la universidad se volcó a la actividad privada y realizó los primeros “estudios de mercado” y las primeras publicidades basadas en esos estudios. A partir de allí, dado que su descubrimiento aumentó considerablemente la venta de los productos, el marketing y la publicidad no dejaron de nutrirse de los conocimientos científicos sobre la psique y el comportamiento humano. Así, las ciencias sociales, como la psicología, el psicoanálisis y la sociología, se constituyeron en un instrumento fundamental para que las empresas logren dirigir los deseos de las personas hacia el consumo de sus productos.

Obviamente el uso de esas tecnologías y conocimientos no fue exclusivo de las empresas privadas sino que también los Estados echaron mano de ellas para educar y controlar a sus poblaciones. Estas nuevas herramientas permitían pasar de un control basado en el uso de la fuerza o en la amenaza del mismo a un control mucho más sutil e imperceptible.

Las ciencias sociales proveían un conocimiento que permitía influir en el comportamiento humano. Sin embargo, la capacidad de predecir y por lo tanto de manipular la conducta no se encontraba ni cerca del nivel que ofrecían las ciencias exactas o naturales. En parte por esa razón pero también por la arraigada creencia en el libre albedrío y en la imposibilidad de predecir con exactitud la acción humana, la sociedad toleró y convivió con tecnologías de manipulación del deseo y de las conductas sin considerarlas opresivas ni peligrosas.

La propaganda estatal se percibe como un dispositivo totalitario o fascista pero la publicidad y el márketing en manos privadas gozan de buena reputación.

Permitimos que los intereses corporativos generen insatisfacción, ansiedad, frustración, depresión, etc., para convertirnos en ávidos consumidores de ciertos productos, bienes y/o servicios, pero elegimos creer que la responsabilidad del padecimiento es individual y a causa de nuestras malas decisiones o por falta de esfuerzo y voluntad. El filósofo surcoreano Byung Chul Han no se cansa de advertirnos que mientras más libres nos creemos más susceptibles somos a la manipulación sutil de los mecanismos de autoexplotación y de autorendimiento a los que el sistema nos induce. 

La pregunta de Skinner sobre el uso de estas herramientas requiere un tratamiento más urgente que en el momento en que él imaginó Walden Dos. El avance tecnológico en la capacidad de procesamiento y recolección de cantidades asombrosas de información, incluso de la vida privada de las personas, más el desarrollo de la inteligencia artificial, permiten describir, interpretar, predecir y, por lo tanto, manipular la conducta humana de una manera preocupante, alertando incluso a sus propios desarrolladores, como es el caso de Anthropic.

¿Deberíamos orientar la ciencia y el desarrollo tecnológico de forma centralizada o dejar que los individuos y empresas privadas se sirvan de ellas sin ningún control ni direccionamiento?

En su primera y reciente encíclica, el papa León XIV, expuso la posición de la iglesia al respecto: “En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación. Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así un rostro inédito, predominantemente “privado”, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común”. 

Precisamente por eso se imponen en nuestra conciencia preguntas decisivas, que ya no pueden eludirse: ¿Hacia dónde vamos? ¿Hacia qué meta deseamos orientarnos? ¿Qué dirección elegir como comunidad humana y como pueblos? 

Asia dónde vamos 

China, con su modelo de capitalismo de Estado, orienta la producción y el desarrollo de las empresas de forma centralizada y con planificación a largo plazo desde hace casi 50 años. Las corporaciones están obligadas por ley a entregar todos los datos de los usuarios al gobierno, quien ejerce el control y la vigilancia absolutas.

En los países de occidente, y en particular en EEUU, existen mecanismos jurídicos que protegen la privacidad de los individuos ante las empresas pero también ante los Estados. Estas limitaciones, sumadas a que los datos públicos y privados no están centralizados, hacen que Palantir y otras empresas no puedan competir con las de China y mucho menos con el Estado asiático. 

Quizás el modelo asiático se imponga, nos colonice o tal vez no. Es tan impredecible como el devenir de esa tecnología que alimentamos y crece mientras algunos reflexionamos sobre si está bien o mal que lo siga haciendo. La sociedad puede cambiar, como lo ha demostrado a lo largo de la historia. Sin embargo, lo que nunca ha sucedido es que el cambio sea resultado de una decisión racional y consensuada. Hoy más que nunca parece imposible imaginar esa deriva sabiendo que las personas somos cada vez más fácilmente manipulables.

Hasta el momento, en gran parte de occidente, la idea de libertad, aunque se trate de una ilusión, ha logrado imponerse al ideal de justicia. Aun cuando eso implica vivir peligrosamente.

Seguí a El Economista en Google Agreganos a tus medios preferidos. + Agregar