Trátase do meirande modelo de linguaxe creado nunca para a lingua galega e que pode funcionar nos vindeiros anos como "peza esencial" para a posta en marcha de chatbots, tradutores ou correctores automáticos

Pode que pasara desapercibido, pero este martes 18 de xuño de 2024 foi un día histórico para a lingua galega, trascendental para o seu futuro nas vindeiras décadas. O Proxecto Nós anunciou a creación de Carballo, un modelo de linguaxe de grande escala de alta calidade en galego que permitirá a creación de novas ferramentas e aplicacións de IA xerativa para a lingua propia de Galicia.

Trátase do meirande modelo de linguaxe creado nunca para a lingua galega e que pode funcionar nos vindeiros anos como base e "peza esencial" para a posta en marcha de múltiples dispositivos que empregan intelixencia artificial con tecnoloxía lingüística, como chatbots, tradutores ou correctores automáticos. Xa está dispoñible un demostrador, que mesmo permite un uso básico do modelo, xunto con algúns exemplos preconstruídos.

Para o adestramento de Carballo usouse un corpus masivo de textos en galego, chamado CorpusNós, formado por aproximadamente 2.100 millóns de palabras, con achegas de editoriais, institucións públicas e medios coma Praza.gal

Para explicar a importancia de modelos de linguaxe como Carballo, os desenvolvedores do Proxecto Nós, o Centro Singular de Investigación en Tecnoloxías Intelixentes (CiTIUS) e o Instituto da Lingua Galega (ILG), ambos os dous da USC, poñen como exemplo o ChatGPT de OpenAI, que non tería existido sen o modelo fundacional que o sustenta (GPT).

Carballo conta cunha arquitectura GPT de 1.300 millóns de ‘parámetros’, ou sexa, 1.300 millóns de valores axustados ao longo dun proceso de adestramento a partir de corpus de texto, encamiñado a lograr que o modelo se desenvolva cunha alta competencia no uso do galego. O seu adestramento foi un gran desafío computacional, sendo necesaria a colaboración do CESGA (Centro de Supercomputación de Galicia).

"É un paso máis na estratexia de dispoñer de capacidades científico-tecnolóxicas propias para non depender de grandes corporacións alleas á realidade social e cultural de Galicia, creando recursos abertos e libres para que outras empresas e institucións poidan desenvolver tecnoloxías lingüísticas en galego", destacan os seus responsables

Para o adestramento de Carballo usouse un corpus masivo de textos en galego, chamado CorpusNós, formado por aproximadamente 2.100 millóns de palabras, "o que supón o maior corpus textual en galego existente ata o día de hoxe", destacan os seus responsables. 

Unha parte significativa deste corpus foi elaborada grazas a numerosos convenios e acordos de cesión con empresas e organizacións fornecedoras de datos textuais. Entre eles destacan medios de comunicación como Praza.gal, Nós Diario, ou a CRTVG; editoriais como Galaxia e Laiovento; e institucións públicas, como o Parlamento de Galicia, o Consello da Cultura Galega, as deputacións da Coruña e de Lugo ou a Real Academia Galega.

O obxectivo é "axudar a crear un tecido empresarial dinámico que medre cos últimos avances da intelixencia artificial e que xire á volta da lingua galega, potenciando tamén as relacións co ámbito lusófono"

Carballo é froito de dous proxectos de investigación: Nós, impulsado pola Xunta de Galicia, e ILENIA, promovido polo Ministerio para a Transformación Dixital e da Función Pública para o impulso de tódalas linguas oficiais do Estado. o modelo galego está baseado en Flor1.3, o modelo homólogo desenvolvido previamente para o catalán no marco do proxecto AINA-ILENIA, que se desenvolve no Barcelona Supercomputing Centre (BSC-CNS).

O modelo fundacional Carballo para o galego "é un paso máis na estratexia de dispoñer de capacidades científico-tecnolóxicas propias para non depender de grandes corporacións alleas á realidade social e cultural de Galicia, creando recursos abertos e libres para que outras empresas e institucións poidan desenvolver tecnoloxías lingüísticas en galego de amplo interese social, e mesmo económico", destacan os seus responsables.

Xunto a Carballo foi tamén desenvolvido en colaboración coa Universidade de Évora o primeiro modelo fundacional galego e portugués, Carvalho, co obxectivo de fortalecer a nosa lingua mediante a inclusión do portugués

O obxectivo é "axudar a crear un tecido empresarial dinámico que medre cos últimos avances da intelixencia artificial e que xire á volta da lingua galega, potenciando tamén as relacións co ámbito lusófono e, deste xeito, co mercado lingüístico do portugués, próximo aos 300 millóns de falantes", engaden dende o Proxecto Nós. Xunto a Carballo foi tamén desenvolvido en colaboración coa Universidade de Évora o primeiro modelo fundacional galego e portugués, Carvalho, co obxectivo de fortalecer a nosa lingua mediante a inclusión do portugués europeo.

Como sucede con outros modelos fundacionais, Carballo precisa aínda de pequenas adaptacións técnicas para se converter nun sistema de diálogo co que poder manter unha conversa fluída e ofrecer respostas automáticas cunha interacción sinxela e intuitiva

Carballo foi publicado en aberto, co obxectivo de que tanto persoas expertas como empresas de software poidan utilizar o modelo para desenvolver novos produtos, facer axustes ou mesmo integrar o seu uso en aplicacións de utilidade para o público xeral.

Desde o CiTIUS destácase o feito de que Carballo foi desenvolvido «conforme ás liñas mestras que guían a ‘IA Confiable’», un paradigma de Intelixencia Artificial ‘responsable’ aliñado cos principios TrustWorthy -‘digno de confianza’- recollidos no Regulamento Europeo de IA, primeira lei de intelixencia artificial do mundo, aprobada recentemente polo Parlamento Europeo.

Carballo foi publicado en aberto, co obxectivo de que tanto persoas expertas como empresas de software poidan utilizar o modelo para desenvolver novos produtos, facer axustes ou mesmo integrar o seu uso en aplicacións de utilidade para o público xeral

Como sucede con outros modelos fundacionais, Carballo precisa aínda de pequenas adaptacións técnicas para se converter nun sistema de diálogo co que poder manter unha conversa fluída e ofrecer respostas automáticas cunha interacción sinxela e intuitiva. 

Os modelos fundacionais non están adaptados nin afinados mediante instrucións dirixidas á resolución de tarefas específicas, e por iso non están deseñados para que o público xeral os utilice directamente. O equipo responsable de Carballo continúa a traballar na mellora da calidade do modelo, así como no incremento do tamaño de novos modelos fundacionais e á súa adaptación á resolución de múltiples tarefas