Lo que le exigimos a las máquinas

Erik Antonio Romero Nuñez docente y egresado de la promoción 27 del CPPL. 

Este 21 de noviembre se llevará a cabo la edición número 20.ª de la jornada interna del CPPL, organizada por la promoción 40, bajo el título Sujeto, Ética y Técnica de la Psicoterapia Psicoanalítica en tiempos de IA, la cual nos propone extender al terreno del setting analítico que se viene generando acerca de las transformaciones de las dinámicas relacionales en la construcción de la subjetividad contemporánea que introduce el uso de la inteligencia artificial.

En el contexto de este debate, dos referencias de campos como la informática y la ciencia ficción vienen siendo citadas por diferentes medios debido a su capacidad premonitoria respecto a la complejidad ética, moral y legal que entraña el desarrollo de la IA y su relación con lo humano.

En 1979, un manual de capacitación de la empresa IBM consignaba una frase que hoy ha recobrado relevancia: “Una computadora nunca puede ser responsable, por lo tanto, una computadora nunca debe tomar una decisión de gestión”. En inglés, la frase utiliza el término “accountability”, que no tiene traducción exacta al español, pero puede entenderse como la capacidad de asumir de forma consciente, comprometida y activa una responsabilidad por la cual estamos en posición de rendir cuentas. La noción de que los derivados de las decisiones tomadas por una máquina no sean “imputables” a esta, contiene implícitamente la ingenua suposición de que los seres humanos contamos con la capacidad de potencialmente hacernos cargo plenamente de las consecuencias derivadas de nuestras acciones y decisiones. Los abundantes casos de impunidad que se registran en diferentes instancias de liderazgo político y empresarial en nuestro medio, así como a escala internacional, nos invitan a cuestionar dicha suposición.

Pasando al campo literario, el relato breve “círculo vicioso (runaround)” de Isaac Asimov enunciaba en 1942 las tres leyes de la robótica que forman parte de la columna vertebral de su universo ficcional (Asimov,1950):

Primera Ley: “Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño”.

Segunda Ley: “Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera Ley”.

Tercera Ley: “Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o segunda ley”.

A través de su extensa producción narrativa, la obra de Asimov permite vislumbrar algunas de las dificultades derivadas de los potenciales conflictos y contradicciones que pueden emerger en el intento de cumplir con estas tres leyes en simultáneo. La noción de que el conflicto es inherente e inevitable cuando intentamos responder a diversas fuentes de exigencia en simultáneo no es ajena al psicoanálisis, pues nos remite a la continua demanda a la que se enfrenta el Yo respecto a los asedios del Ello, del Superyó y de la realidad. Así como la función organizativa del yo permanece siempre exigida por la tarea de incorporar e integrar múltiples transformaciones internas y externas, la formulación de códigos legales o sistemas de decisión moral frente al desarrollo tecnológico nunca deja de encontrarse con situaciones cuya complejidad sobrepasa y obliga a reformular.

Cabe notar que el cumplimiento de las 3 leyes de Asimov ya implica diversas complicaciones aun cuando asumimos que se intenta seguir rigurosamente la consigna de cumplirlas. Si incorporamos la propensión a transgredir las reglas en busca de un beneficio propio sin miramientos por el otro, tan propia de nuestra idiosincrasia. La situación se vuelve aún más compleja y difícil de abarcar y abordar. Tanto la consigna formulada por IBM como las reglas propuestas por Asimov comparten la noción de que la necesaria regulación del desarrollo tecnológico tiene implicaciones complejas, y a su vez, sus preocupaciones y advertencias nos interpelan respecto a nuestros propios sistemas regulatorios como individuos y como sociedad (International Business Machines Corporation [IBM], 1979).

Siguiendo esta línea, cabe formularnos algunos cuestionamientos respecto a la manera en que viene enfocándose la investigación respecto al uso de la IA como herramienta de soporte en el terreno de la salud mental. Junto a los datos que da cuenta de la creciente incidencia de adolescentes, jóvenes y adultos que recurren a la IA en busca de orientación y consejería, han ido en aumento las advertencias de los riesgos relacionados con su uso. Desde una perspectiva psicoanalítica, además de indagar acerca del impacto de este uso en relación con la constitución de la subjetividad, resulta pertinente preguntarnos en paralelo acerca de las razones por las que su utilización ha calado de forma tan significativa y de manera tan acelerada.

A la par de las reflexiones que enfatizan el sentido de alerta, acercarnos al fenómeno del uso de la IA como herramienta de salud mental, desde una perspectiva ética, implica también cuestionarnos acerca de qué refleja esto sobre cómo venimos desplegando nuestro rol como colectivo con relación al cuidado afectivo. Asimov planteaba que los robots no debían permitir que los humanos sufran daño por inacción, y en esta línea, cabe cuestionarnos acerca de la tarea pendiente del movimiento psicoanalítico respecto a la accesibilidad de la atención psicoterapéutica, especialmente en un contexto marcado por profundas brechas de desigualdad socioeconómica como el nuestro.

Referencias

Asimov, I. (1950). Runaround. En: I, Robot (pp. 31-54). Doubleday. (Trabajo original publicado en Astounding Science Fiction, 1942).

International Business Machines Corporation – IBM (1979). Internal management training manual (Manuscrito no publicado-Material de entrenamiento)