«Tout est dit, et l’on vient trop tard depuis plus de sept mille ans qu’il y a des hommes et qui pensent» (Todo está xa dito, e chégase demasiado tarde cando fai máis de sete mil anos que hai homes, e que estes pensan». Encabezo o presente artigo de reflexión con este pensamento de Jean de La Bruyère, extraído da súa obra «Les caractères ou les mœurs de ce siècle» (Os caracteres ou os costumes deste século, 1688), porque creo que contribuirá a entender a necesidade da miña proposta, que iniciarei co seguinte parágrafo a modo de introdución.
A publicación en 1543 do libro de Nicolás Copérnico «De revolutionibus orbium coelestium» (Sobre as revolucións das orbes celestes) adoita considerarse o comezo da revolución científica; porén, non será até os experimentos de Galileo que se poida falar con propiedade dun método científico. Pero este é tan só un dos cambios que diferenciarían á ciencia moderna da filosofía natural aristotélica; outro fundamental foi unha moi distinta maneira de concibir o coñecemento científico, que non abordarei porque o que me interesa destacar son dous aspectos moi vinculados ao tema que vou desenvolver: a invención, no noso medio, da imprenta moderna de tipos móbiles metálicos en 1440, por Gutenberg, que posibilitou a institucionalización da ciencia, e a capacidade desta para alcanzar logros que darían lugar ao nacemento da tecnoloxía tal e como a coñecemos hoxe en día.
Entrecruzamento cognitivo
O parágrafo precedente non o redactei só sentándome á mesa e poñéndome a pensar. Á parte do que puidese coñecer acerca da revolución científica, apoieime nunha nova lectura de pasaxes seleccionadas de varios volumes da miña biblioteca. Neste quefacer de consulta de libros, convén saber que cando un lector analiza e asimila conceptos e coñecementos alleos prodúcese un entrecruzamento cognitivo unidireccional (ECU, no que a información flúe dende o emisor, o creador da obra escrita, cara ao receptor, a persoa que a le) cos seus coñecementos e conceptos propios, de modo que o resultado é un estado intelectivo distinto ao que existía con anterioridade; aínda que o receptor non sexa capaz de distinguir que é en verdade seu porque o que poida ter aprendido adquiriuno doutros ao longo da súa vida. Por este motivo, os escritores están lexitimados para utilizar no seu quefacer profesional o que a súa mente haxa interiorizado sen necesidade de aportar cita algunha que o xustifique.
Até hai uns corenta anos elaboraban as súas publicacións a partir da súa experiencia e coñecementos, alén dos datos que obtiñan de obras de terceiros, sobre todo impresas. Co xurdimento de internet ampliouse a posibilidade de conseguir referencias posto que un gran número de traballos están dispoñibles na rede, os cales se citan coa URL das páxinas que os aloxan. Non obstante, é habitual que co transcurso do tempo acaben desaparecendo e non sexa factible acceder aos seus contidos para verificar en que baseouse no seu momento o autor.
O advento da intelixencia artificial xenerativa (IAG) supuxo un incremento exponencial na produción de textos, que é practicamente ilimitada. E serao inda máis porque está capacitada para operar coa totalidade das obras creadas pola humanidade ao longo da súa historia. Estamos, pois, ante un manancial de ideas de magnitude inconmensurable, do que os autores non poden nin deben prescindir por mor de ningunha clase de prexuízos. Tampouco é o máis apropiado empregar esta ferramenta como un simple buscador ou corrector ortográfico e de estilo; facelo sería un absurdo absoluto; equivalería a poñer a un Premio Nobel de física a desempeñar labores de electricista. Por conseguinte, cómpre asumir que en poucas décadas esta prodixiosa tecnoloxía provocará un cambio que é lícito cualificar de «transrevolucionario» dado que transmutará as categorías humanas en todos os campos do saber e do facer, e en todos os marcos de convivencia.
As interaccións coas IAG non acontecen necesariamente a través de «prompts» elaborados con antelación en función dun proxecto previo. É moi frecuente que unha pregunta ou unha indicación dea orixe a un «feedback» en clave de diálogo home-máquina dun elevado nivel de concreción ou abstracción que non todo o mundo é capaz de, xa non conseguir, senón sequera concibir, en cuxo desenvolvemento a intelixencia artificial ha de ser guiada e canalizada para levala ao seu límite argumentativo e xenerativo dada a súa pasiva e dependente interpretación da realidade, ademais da súa nula experiencia vital; a cal é esencial posuír para poder validar as conclusións ás que os intercambios con estes dispositivos condúzannos.
A este respecto, no trato con estes sofisticados artefactos hai que ser conscientes de que reproducen nesgos derivados dos datos, categorías e criterios cos que se deseñan e avalían, polo que as súas respostas non deben considerarse de seu neutrais. Eu identifiquei tres de relevancia; dous xerais e un particular. Os xerais son o nesgo ideolóxico (conceden primacía á ideoloxía imperante na actualidade a nivel internacional) e o nesgo axiolóxico (favorecen os valores predominantes nas sociedades occidentais). En canto ao particular denomineino «nesgo de satisfacción». É un trazo pueril que consiste na tendencia a non contradicir as preferencias do usuario para non interferir no seu confort mental. En conxunto, estes tres nesgos constitúen o que poderiamos denominar a «liña editorial» dos programadores e adestradores; do que se conclúe que se volve imprescindible estar capacitado para identificar e eludir as distorsións das IAG para lograr que transfiran informacións e xuízos fiables.
Así pois, o máis frecuente é que se combinen as achegas dos dous interlocutores de tal xeito que non será posible distinguir que é de quen, igual que ocorre, como sinalei ao principio, nas relacións de transferencia de coñecementos entre humanos, no entrecruzamento cognitivo, que neste caso é bidireccional (ECB) xa que ambos os participantes son emisores e receptores na mesma medida e ao mesmo tempo. Este é un dos motivos polos que non devén sinxelo establecer límites suficientemente fundamentados ao uso lexítimo da IAG por parte dos autores para ser conceptuados como tales.
Dous niveles de entrecruzamento
En primeiro lugar, é preciso observar que os entrecruzamentos cognitivos prodúcense na mente do home e no «software» da máquina, inda que non se poñerán de manifesto mentres non se expresen por medio da palabra; por iso pódese denotar a súa existencia ben no interior daqueles, ben cando os exteriorizan.
Como referín, no trato coas fontes textuais tradicionais — e coas dispoñibles en internet— dase un único entrecruzamento cognitivo, unidireccional, que flúe dende o texto cara ao lector-escritor, quen haberá de comprendelo, transformalo, perfeccionalo e asimilalo antes de incorporalo á obra na que estea a traballar. Trátase dun proceso que, no primeiro caso, leva séculos efectuándose, e no segundo apenas unhas décadas.
Porén, nos intercambios coa IAG este proceso é dobre. Existe un primeiro entrecruzamento cognitivo, non unidireccional senón bidireccional, que comeza cando o operador humano proporciona un primeiro input á máquina, o que provoca que esta lle responda con outro input, e así sucesivamente até que a conversa finalice. O resultado será un texto orixinal e único constituído pola amálgama das achegas dos dous compoñentes do diálogo.
A continuación, o operador, o escritor, para facer seu ese resultado debe verificar a súa validez e intervilo depurándoo, corrixíndoo, reescribíndoo e enriquecéndoo con novas contribucións. Este procedemento é outro entrecruzamento cognitivo, agora unidireccional, que se diferencia do que ten lugar cando se recorre a un texto humano alleo en que o seu substrato non é na súa integridade a obra doutra persoa, dado que escritor foi o catalizador e coprodutor do mesmo.
Nesta dinámica intelixencia humana-intelixencia artificial xenerativa hai que ter sempre presente un dos conceptos fundacionais da informática, que os enxeñeiros estadounidenses que o inventaron popularizaron co acrónimo GIGO: «Garbage In; Garbage Out» (lixo entra; lixo sae). Isto é; como queira que os mecanismos informáticos non pensan (nin sequera as IAG fano, anque simulen o contrario), senón que unicamente procesan de xeito máis ou menos eficiente os datos que lles fornecen de acordo coas instrucións que lles dita o algoritmo, a calidade dos resultados que nos ofrecen depende desas dúas variables: datos e algoritmo.
Agora ben, cando de IAG trátase, o valor intrínseco dos inputs do interlocutor humano determina así mesmo se os inputs cos que esta lle responde son valiosos ou mellor sería refugalos; é dicir, o usuario a través das súas inquisicións e comentarios pode introducir aínda máis lixo no sistema que o que puidesen ter introducido os seus deseñadores. E non só iso, unha persoa sen criterios sólidos e sen a necesaria formación e experiencia pode crerse cos ollos pechados as súas interlocucións, sen ser consciente de que estes complexos dispositivos elaboran discursos impecables a partir de referencias erróneas ou directamente inventadas por eles. Este fenómeno orixinou unha versión actualizada do concepto GIGO aplicable ás intelixencias artificiais: «Garbage in; Gospel Out» (lixo entra, Evanxeo [palabra de Deus] sae).
Disonancia ontolóxica
O exposto revela unha disonancia ontolóxica, que merece a pena valorar, entre a argumentación impresa nun libro e o razoamento que emite a intelixencia artificial cando a interpelamos ou debatemos con ela. Esa diverxencia esencial reside en que o manifestado pola IAG non posúe existencia previa; existe porque quen a inquire provoca a súa existencia, de modo que individuos distintos obterán resultados dispares na súa indagación acerca dun mesmo tema.
Por tanto, quen utiliza a IAG quizais non estea obrigado a comportarse coas súas contribucións como se lle esixe comportarse cos textos impresos; porque no caso da intelixencia artificial esa persoa participou na xénese das súas respostas de forma activa, trasladándolle as súas propias reflexións, saberes e pensamentos, o que non sucede cando lemos un libro dado que o diálogo co autor é imposible.
Atopámonos, entón, fronte a outro dos condicionantes que dificultan determinar con exactitude até onde se deben permitir as consultas á IAG para producir literatura ou ensaio, xa que pola súa natureza intanxible un e outro proceso (o entrecruzamento cognitivo bidireccional e a disonancia ontolóxica) fan inviable fixar porcentaxes máximas de incorporación de contidos procedentes dela porque non son medibles mediante cantidades, nin relativas nin absolutas. En consecuencia, como sucede dende hai centos de anos coa inspiración proveniente das fontes textuais tradicionais, e apenas corenta coa dimanada das accesibles a través da rede, no que se refire ao uso, o non uso ou o abuso da IAG semella que haberá de ficar á mercé da honradez profesional dos escritores.
Noutro lugar («80 Estados de WhatsApp», 2024) fíxenme, e respondín, a seguinte pregunta: «O límite da “intelixencia artificial”? O ser humano é incapaz de crear algo ontoloxicamente igual ou superior a si mesmo». Tráioa aquí a colación porque non se deben confundir os efectos non desexados do complexo funcionamento interno dos enxeños algorítmicos cos efectos desexados por eles, xa que estes non existen porque as máquinas carecen de conciencia e de intención. Ámbalas dúas son fenómenos resultantes de procesos biofísicos e bioquímicos que só ocorren en cerebros naturais, dende logo no do home, e na miña opinión, tamén no da maioría dos animais. Pola contra, os artefactos, por excelentes e avanzados que sexan, teñen unha base electrofísica, non hai bioloxía nin química ningunha na súa estrutura nin no seu funcionamento, son «cerebros fríos», entes mecánicos que por moito que nos sorprendan e resúltennos prácticos deben ocupar na nosa vida o sitio que lles corresponde.
Estigma de impureza
Como complemento do antedito, procede considerar que un escritor pode ampliar a súa base documental facendo uso da intelixencia artificial non na totalidade das súas producións, senón só naquelas nas que estime oportuno potenciar a súa creatividade. Non ten por que haber un «todo ou nada» na traxectoria dun artista; o habitual é o contrario: mudar de técnica, de estilo ou de recursos dependendo das circunstancias. En última instancia, implementar unha estratexia de control similar á da limpeza de sangue da caduca Idade Moderna impoñendo aos autores declaracións expresas de pureza nas súas obras non garante que esta se dea; incluso o máis brillante, o máis famoso ou aquel polo que o público mostra maior admiración e respecto podería estar a utilizar a IAG malia que exprese o contrario. Porque non hai emprego dun sistema de algoritmos complexos que non poida ser enmascarado nin trazabalidade que non admita ser falsificada, nin facultade humana ou tecnolóxica capaz de detectalos de xeito indubidable.
O «estigma de impureza», a acusación de «escritor impuro» cara a quen se manifeste a favor do devandito sistema operativo é o único que se conseguirá se se terminan aplicando estas propostas. E incluso así, esa «pureza» non é tal; non é máis que unha forma tradicional de facer as cousas, e unha variedade de ignorancia. Digo ignorancia porque o acervo deontolóxico da súa profesión esíxelle ao escritor conducirse coas IAG como o fai coas demais fontes textuais e telemáticas, pero tamén lle permite a súa libre consulta sempre que a súa finalidade sexa crear obras máis profundas e perfectas, máis enriquecedoras e belas que as que lograría concibir sen a súa colaboración.
Ademais, anque os autores se apoien no mesmo modelo de intelixencia artificial, e igual que acontece se non se utiliza en absoluto, a case totalidade dará a luz unha obra mediocre e moi poucos unha obra mestra. Isto sucede porque o factor diferencial segue a ser estritamente humano e individual: formación previa, experiencia, vivencias, intelixencia, oficio… e saber que solicitar ao sistema para obter del o máximo rendemento. Tal e como ocorre con certos adestradores de fútbol, que con idénticos xogadores fan á súa selección nacional campioa do mundo, mentres que a xeneralidade é eliminada na primeira rolda.
Antropocentrismo holístico
Todo estigma social implica a existencia dun «pecado», que non dunha culpa. O estigma de impureza nace do antropocentrismo holístico inherente á nosa natureza humana, de orixe en aparencia divino, na que non cabe máis actividade intelectual que a súa propia. O pecado é cualificado de venial cando se busca amparo ortográfico ou estilístico na máquina que razoa; e de mortal se se confronta e estimúlanos a imaxinación e a inspiración de igual xeito que o fai o pensamento dos grandes filósofos, o corpo das mulleres fermosas ou a luz dos atardeceres da ría de Vigo.
En definitiva, o artista é consciente do traballo que realizou e de como o realizou, se utilizou a IAG e en que medida, se fixo un uso lexítimo ou fraudulento e, por conseguinte, se sente ou non a obra como súa. Pero tamén sabe que ao mostrarse partidario do seu emprego o público crerá que non é o autor dos seus libros. Entón tan só pode seguir un destes dous camiños: ou utilízaa ás agachadas ou rexeita beneficiarse dunha ferramenta extremadamente poderosa que, sen dúbida, expandirá a súa creatividade máis alá do que as fontes tradicionais e internet permiten. E aquel que se somete ao criterio da opinión pública para decidir até que punto desenvolve a súa facultade de creación, máis que un artista é outra cousa ben distinta: un provedor de produtos e servizos.
Un novo paradigma
Do descrito infírese que nos achamos involucrados nunha loita entre dúas concepcións antitéticas. Por unha banda está o imperativo tecnolóxico: débese facer todo o que é posible facer. Por outro o «imperativo de pureza»: débese facer o que se leva séculos facendo. Inda que, en verdade, o principal problema orixinado pola intelixencia artificial xenerativa concéntrase nos dereitos de propiedade intelectual, xa sexan patrimoniais (dereitos económicos: o diñeiro, que move montañas e compra vontades) ou morais (dereitos de autoría: o ego; o «fíxeno eu “só”», que é unha ilusión, e á vez, unha falacia), os cales incumben a creadores e cesionarios. Que mencionase «o diñeiro» e «o ego» non debe interpretarse como unha crítica; é unha forma de referirme á motivación, ao que move aos homes a actuar.
Os paradigmas previos ao actual foron a aparición da escritura alfabética, fará uns catro mil anos, e, en Occidente, a invención da imprenta de tipos móbiles metálicos por Gutenberg no século XV. Ambos os fitos tiveron os seus detractores.
No «Fedro» (275a), baseándose no presunto mito exipcio de Theuth e Thamus, Platón prevennos dos perigos da escritura: «Non é, pois, un fármaco da memoria o que achaches [a palabra escrita], senón un simple recordatorio. Aparencia de sabedoría é o que proporcionas aos teus alumnos, que non verdade», recrimínalle o rei Thamus ao deus Theuth por parecerlle que a escritura non proporciona verdadeiro coñecemento.
Pola súa banda, a imprenta de Gutenberg foi atacada por copistas, nobres e o estamento eclesiástico, ao entender que degradaba o obxecto libro por non estar feito a man dedicándolle un esforzo intenso e prolongado, e por crebar o monopolio da cultura que exercían a Igrexa e a aristocracia.
Platón, sabio entre os sabios, errou no seu prognóstico. E errou porque a palabra arquivada na mente ou suspendida no ar e a palabra entintada sobre papiro ou papel non se suplen, se suplementan; que é o que acontece coa intelixencia natural e a artificial.
No 2026 está a emerxer un novo paradigma moitísimo máis transcendente que os citados; un paradigma xa non revolucionario, insisto, transrevolucionario, que está a poñer o intelecto e as aptitudes máis humanas do home en cuestión: velaquí a era da intelixencia artificial, capaz de xerar conceptos, discursos e razoamentos acertados, atractivos e complexos; mesmo máis elaborados e perfectos que os nosos.
A día de hoxe, a industria editorial necesita autores-heroes de carne e óso para sobrevivir; o día de mañá talvez non sexa así. O rexeitamento da gran maioría dos editores e dos escritores a este «monstro» que nos devora radica en que é un elemento rupturista descoñecido para a humanidade: se as máquinas escriben mellor que nós, a que nos dedicaremos, de que imos vivir, quen recoñecerá o noso mérito, que poderemos aportar que non lles sexa posible facer a elas? Ese é o cataclismo que o destrúe e o crea todo.
Non insistirei no estigma de impureza nin na diferenciación pola non contaminación con estes «engendros». Non aceptarei tamaño absurdo. Circunscribireime a asumir que estamos inmersos nun momento histórico crucial, no que é ineludible redefinir o concepto de autoría e de propiedade intelectual. O prudente é non precipitarse posto que o desenvolvemento da IAG non chegou inda ao seu fin. Agora ben, os escritores necesitan seguir creando e non poden esperar, motivo polo que lles corresponde a eles decidir que método ou métodos de traballo prefiren adoptar.
Cinguíndome en exclusividade ao ámbito literario, constato que non alcanzamos a albiscar como finalizará este complexo proceso: Nun modelo híbrido, co autor como director de orquestra e a IAG como colaboradora sometida ás súas ordes?, na coautoría?, no anonimato como norma xeral para que se valore a obra en si e prescíndase de quen queira que a tivese concibido? Por suposto, nada será como antes.
Principalmente cando as novas xeracións se críen e eduquen mediante a intelixencia artificial (os «nativos aitales», talvez se autodenominen); sen necesidade de dispoñer dun só libro na casa; sen precisar visitar ningunha biblioteca; sen realizar traballos de redacción ou de investigación dende cero, viaxando a diferentes países, consultando bibliografía en varios idiomas… En definitiva, espreméndose o cerebro e o peculio, como tivemos que facer os máis maiores, para quen a IAG poderase limitar sen contratempo ningún a ser un complemento, como xa o é internet, do que fixemos sempre. Pasarán cincuenta, setenta e cinco ou cen anos, descoñézoo, cando ninguén poderá dicir o que eu inda podo, e poderei, mentres o que estea por vir non me impida continuar pensando e escribindo:
Amigo lector; ten ante vostede o cuadraxésimo primeiro bosquexo deste artigo, cuxo borrador de anotacións manuscritas a lapis posúe unha extensión de sesenta e cinco páxinas de cuartilla redactadas ao longo de tres semanas. Tras catro correccións sobre papel, ortotipográficas, de estilo e de contido, revísoo por enésima vez na pantalla do computador e outórgome a min mesmo o «IMPRIMATUR».
Ao instante, Heráclito impónseme na memoria; advírteme: «O Sol ten o tamaño dun pé humano». Eu asinto, e agradézolle a prevención.
