Os textos creados pola Intelixencia Xeral Xenerativa son criaturas de Frankenstein, armadas de retallos, con órganos e tecidos saqueados en cemiterios, bibliotecas, hemerotecas ou librarías de vello

A nosa reacción de asombro, pánico e excitación fronte a IA explícase en parte polo que evoca: o imaxinario da ficción científica en literatura e cinema. Evoca a Zamyatin, Huxley e Orwell, a Philip K. Dick, Isaac Asimov, Ursula K. Le Guin, Stanislaw Lem, Joanna Russ ou J.G. Ballard. Evoca 2001, Unha Odisea no Espazo, Fahrenheit 451, Blade Runner, The Terminator, Desafío Total, The Matrix, o cyberpunk, Black Mirror, os videoxogos. 

Estabamos preparados, a eclosión da ameaza cibernética levaba décadas incubándose fóra de foco, por iso nos sacude pero non nos sorprende. Os acontecementos veñen confirmar as fantasías do Sci-Fi e cremos o que nos contan porque nolo venden no marco dese imaxinario ficcional e hiperreal. Non é tanto que a ficción fose visionaria como que a industria se inspira nela e a replica.

Os malos reais, Donald Trump, Peter Thiel ou Elon Musk, imitan os superviláns da Marvel. Os vehículos de Tesla evocan o batmóbil, os robots humanoides... que vos vou contar, as smartglasses de Meta evocan as da película de John Carpenter They Live, a rebelión dos axentes de OpenAI xa a viramos en embrión na película de Kubrick. As redadas e eliminacións de ICE xa as viramos en Minority Report, as relacións íntimas co algoritmo xa estaban en Her ou Ex Machina, os búnker dos millonarios nun mundo distópico estaban en Elysium. 

Nunha cuestión a debate hai poucas probas tan convincentes e definitivas como descubrir que o que nos parecía soño ou paranoia resulta ser real. Se as ideas máis extravagantes viñeron co tempo dar certo, quen somos nós para poñer en dúbida que o que agora nos contan, aínda que parezan trapalladas, non vai ser o futuro? O márketing de Silicon Valley válese desa fenda emocional e cognitiva para persuadirnos de que vivimos nunha película e dispomos de superpoderes. Como non imos vernos arrastrados por esa revelación? Como renunciar a xogar ese xogo no que xa non somos espectadores, senón personaxes?

* 

Os textos creados pola Intelixencia Xeral Xenerativa son criaturas de Frankenstein, armadas de retallos, con órganos e tecidos saqueados en cemiterios, bibliotecas, hemerotecas ou librarías de vello. Pero tamén con órganos e tecidos arrincados polas bravas de textos vivos. 

O doutor Frankenstein, coma os tecno-bros, quería vencer a morte, crear algo vivo, consciente e intelixente, unha especie nova, acceder á gloria ao atribuírse logros que ninguén acadara antes. O personaxe de Mary Shelley horrorizábase do seu éxito e abandonaba o monstro, algo que os tecno-bros simulan estar a negociar agora. A violencia e a rebelión que anuncian, se se desen, serían coma na novela consecuencia da non asunción de responsabilidade por parte do creador. 

A “criatura” textual dos LLMs non cobra vida cun lóstrego senón co zunido eléctrico e requente dos macrocentros de datos. Fronte a ese remedo de vida, coma no soneto de Quevedo, vivimos en conversación cos defuntos / e escoitamos cos ollos aos mortos... se non entendidos, sempre abertos”. Quen sabe se nalgún momento non imos experimentar un momento Bruce Willis no remate d’O sexto sentido, non quero facer spoiler.

* 

Anthropic declara que a IA é demasiado estratéxica para deixala só en mans privadas e que o Goberno quede mirando desde a barreira. A súa proposta é “unha gobernanza compartida entre gobernos e sector privado” que se substancia de facto nunha regulación interna. Para que chaman entón á porta do goberno? A ver se queren un rescate coma os da crise de 2008, demasiado grandes para caer

A área máis avanzada da IA, contan, é a automellora recursiva, modelos que se adestran a si mesmos e se perfeccionan coas súas interaccións autónomas, sen máis intervención do programador que a de tentar entender o que pasa. A aprendizaxe daría paso a versións superiores do modelo a un ritmo exponencial. Este método, supostamente o máis efectivo, pode acabar sendo o máis ruinoso, dado que os modelos empregan menos datos de calidade e máis simulados por eles mesmos, sen o contraste que os humanos lles aportan co mundo material. Escalado, este bucle de retroalimentación endóxena levará a que as “alucinacións”, os erros derivados da aplicación mecánica das instrucións nun sistema pechado, se multipliquen, co cal os modelos, no canto de gañar, perderán fiabilidade para seren válidos no mundo real. O problema é que para os promotores da IA a porcentaxe de erros resultante é perfectamente asumíbel, e máis rendíbel. 

*

Anthropic declara que a IA é demasiado estratéxica para deixala só en mans privadas e que o Goberno quede mirando desde a barreira. A súa proposta é “unha gobernanza compartida entre gobernos e sector privado” que se substancia de facto nunha regulación interna. Para que chaman entón á porta do goberno? A ver se queren un rescate coma os da crise de 2008, demasiado grandes para caer. Vímolo mil veces, unha participación pública para que a empresa arramble co beneficio e a administración cargue coa responsabilidade cando as cousas non saen segundo o previsto. DietarioOu aínda máis radical. A ver se os libertarios anti-estado van querer unha nacionalización á comunista para protexerse das demandas dos investidores.

* 

Para comprobar que hai gato encerrado abonda considerar que as mesmas empresas que alarman coa inminencia da apocalipse, ao tempo programan a súa saída a Bolsa

Outro beneficio do apocalipticismo consiste en rodear a nova tecnoloxía dunha condición ou aura de excepcionalidade que free as ansias dos gobernos por regulala. Non tería sentido aplicarlle a lexislación e as garantías xerais porque é algo sen precedentes, os reguladores non o entenden e frearíase o progreso. Trátase dunha táctica de presión empresarial que acompaña a implantación de todas as tecnoloxías novas. Para comprobar que hai gato encerrado abonda considerar que as mesmas empresas que alarman coa inminencia da apocalipse, ao tempo programan a súa saída a Bolsa.

É tan certo que a regulación externa da IA se complica pola súa opacidade como que as empresas a deseñan para que así sexa. Igual de certo que, cantas máis capacidades e funcións deixemos en mans da IA, máis opaca se volverá e máis difícil será regulala. A responsabilidade maior debería recaer sobre os gobernos que abdican da súa función reguladora, de facer cumprir a lei. 

Un exemplo. A presidenta de Irlanda, en nome da UE, vén de propoñer que os datos que as grandes tecnolóxicas levan acumulado sobre cada un de nós, poidan usalos sen pedirnos consentimento e para o que estimen conveniente. Seica o obxectivo é non poñer paus nas rodas do desenvolvemento para que Europa non fique atrás. Isto equivale a afirmar que, se ante unha agresión non nos resistimos, xa non hai agresión. As Big Tech van sen condón pero tranquis, eles controlan. Unha asociación de ideas simple dinos que se as funcións dos gobernos pasan a exercelas as empresas, cando nos relacionemos coa Administración colonizada polo software privado, o trato que podemos esperar deixa de ser o de cidadáns. Seremos clientes.