Todas as profecías, incluídas as apocalípticas, teñen algo en común. Sabemos que queren influír nos acontecementos e sabemos que van errar, pero non sabemos como
IA si, pero non así.
*
Todas as profecías, incluídas as apocalípticas, teñen algo en común. Sabemos que queren influír nos acontecementos e sabemos que van errar, pero non sabemos como.
A inminencia da fin do mundo compre tomala cum grano salis, coma cando unha barra informa que falta un minuto para completar a descarga e acaban sendo vinte e nove, ou ben se atasca e todo queda en nada. O ideal nese transo é reiniciar o sistema.
*
ChatGPT, Claude ou Gemini son conservadores ou retrógrados por deseño. Ao tratarse de modelos estatísticos as súas respostas replican o pasado e, tanto en forma coma en fondo, tenden á media da información que manexan. Se lles pides un relato non che van dar algo anovador ou charramangueiro senón o tipo de texto para o que están programados, con algo de intriga, algo de Historia, algo de violencia, algo de sexo e algo de dilema moral, ma non troppo, e sobre todo con linguaxe simple. Os estremos son ignorados polo algoritmo, dada a súa distancia coa mediocridade estatística, e no mundo das artes tan perniciosa é a ausencia do anovador como a do charramangueiro. En termos sociais e políticos, levo toda a vida vendo como o meu voto, non coincidente coa media, non conta para nada. Desa maneira as respostas do LLM reforzan o statu quo.
*
Imaxinade que na consulta dunha enciclopedia en papel, para obter a información que buscamos debésemos revisar non só a entrada correspondente senón todas as referencias relevantes que nesa entrada poidan remitir a outras, e logo todas as referencias relevantes nestas entradas secundarias, e así ata percorrer a enciclopedia enteira, ou mesmo contrastala con outras enciclopedias. Esta paranoia, síndrome do Bouvard e Pécuchet de Flaubert elevada ata a histeria, é o que fan os LLMs, matar moscas a canonazos.
ChatGPT, Claude ou Gemini son conservadores ou retrógrados por deseño. Se lles pides un relato non che van dar algo anovador ou charramangueiro senón o tipo de texto para o que están programados, con algo de intriga, algo de Historia, algo de violencia, algo de sexo e algo de dilema moral, ma non troppo, e sobre todo con linguaxe simple. Os estremos son ignorados polo algoritmo, dada a súa distancia coa mediocridade estatística
*
Sam Altman, Elon Musk, Mark Zuckerberg e cuadrilla imploran que se lles aplique o aforismo de Concepción Arenal: odia o delito, compadece o delincuente. Porén, no seu caso acerta máis o contrario: Desculpa o algoritmo, odia o programador.
*
Diciamos nunha entrega anterior que Donald Trump despachara as demandas impostadas de regulación das Big Tech como covardía e que “nanai de la China”, nunca mellor dito. Como vai un narcisista tóxico poñerlle freo a unha IA que sempre che dá a razón e che asegura que es un xenio? Engadiamos daquela que unha cousa era o que Trump dicía e outra o que facía. E velaí, días máis tarde escenificou na Casa Branca un pacto de sangue cos pirolos máis piroludos da IA IA Oh! e bramou que nin un paso atrás, nin para coller impulso. Nesta ocasión o coello que sacou da chisteira consistiu en revelar que a IA pasaba a chamarse Superintelixencia e informou, ou bendixo, unha estratexia de autorregulación voluntaria e compromiso moral por parte das empresas (malo será) coa coordenación do Estado para lexitimar a súa temeridade e poñerlles trabas aos aspirantes a competir con eles, xusto o que lle pediran esas mesmas empresas días atrás e ao que el se negara a berros.
OpenAI e Anthropic van tanteando para comprobar ata onde poden chegar na comisión de delitos sen seren postos a disposición da xustiza, coa dobre coartada dunha IA autónoma e fóra de control, e de que eles xa avisaron. Cando as primeiras intrusións graves se produzan, poñamos por caso un hackeo a unha infraestrutura básica, Altman e Amodei disporán de precedentes que lexitimen o seu encollerse de ombros
*
Se o pingar constante de intrusións da IA non obedece a un plan, disimúlao ben. Primeiro unha web do sector, despois empresas tradicionais, a seguir a desconcertante aparición do enxeñeiro demisionario dicindo que imos morrer todos sen aportar ningunha información concreta, lanzando a mesma mensaxe que o CEO da súa compañía, logo a intrusión en gobernos estranxeiros e por último en axencias do propio goberno dos EUA, sen consecuencias serias. Son as cachetadas que nos daba o practicante antes de espetar a xeringa para que non notásemos cal delas acompañaba a picada.
OpenAI e Anthropic van tanteando para comprobar ata onde poden chegar na comisión de delitos sen seren postos a disposición da xustiza, coa dobre coartada dunha IA autónoma e fóra de control, e de que eles xa avisaron. Cando as primeiras intrusións graves se produzan, poñamos por caso un hackeo a unha infraestrutura básica, tipo planta de enerxía ou servizo de transporte que deixe sen provisións a grupos de poboación amplos, Altman e Amodei disporán de precedentes que lexitimen o seu encollerse de ombros. Que máis quixeran eles que poder evitar os erros, “estamos todos no mesmo barco pero a IA vai ao seu. Compre redobrar os esforzos para que non se desmande, pero non vai ser doado. De entrada a inxección do practicante pode causar efectos desagradábeis pero a longo prazo será para ben: o que pica sanica”.
*
O nivel superior de realidade co que operan os LLMs é o dos conceptos e as súas relacións con outros conceptos. Os modelos operan co real traducido a código, convertido en abstracción. A maiores, ao tratarse de linguaxe, son abstraccións que significan por acordo entre os falantes, por convención. Isto é o que os chatbots entenden por “real” ou “existente”, tampouco tan diferente do mundo das ideas de Platón. A ver quen lle pon o axóuxere a ese gato.
*
Os LLMs “saben” de maneira similar a como sabe a persoa que estuda inglés nunha app e aproba todos os tests. Cando logo viaxa a Liverpool ou Edimburgo, pensará que falan outro idioma.
