Os nesgos, o acceso aos datos da cidadanía e os dereitos humanos, principais preocupacións dos expertos
Cantas decisións de ámbito público estamos dispostos a deixar en mans da intelixencia artificial (IA)? A maioría dos cidadáns, seguramente, estará de acordo con que os médicos poidan usala para realizar mellores diagnósticos, pero quizá non todo o mundo estea de acordo con que decida quen debe ter prioridade nun transplante. Estamos dispostos a permitir que a IA decida quen aproba a selectividade, quen supera unha oposición ou quen ten máis dereito a recibir unha subvención pública? Debe ser a IA quen determine que territorios merecen máis investimentos en infraestruturas ou se é mellor gasta máis en educación que en sanidade? Que faremos cando sexa posible gobernar, tomar decisións, a partir do que a intelixencia artificial considere mellor para un país?
No futuro máis inmediato asistiremos a unha integración cada vez máis intensa da IA no sector público. Verémola decidindo como se aplica a lei, se responde a emerxencias ou se xestiona o medio ambiente?
O debate arredor da utilización da intelixencia artificial no sector público xa comezou. E as respostas nin son fáciles nin parecen estar aínda ao alcance da man. O Ministerio para a Transformación Dixital e a Función Pública, que dirixe José Luis Escrivá, conta desde hai un mes cunha Estratexia de Intelixencia Artificial que, entre outras cousas, expón abertamente a utilización desta tecnoloxía na administración pública.
En principio, a xulgar polo documento do Goberno, todo son vantaxes. "Unha oportunidade para achegar a Administración á cidadanía e superar as brechas de acceso á mesma, prestando servizos públicos de calidade e asegurando que a cidadanía poida elixir o modo en que se comunica coa Administración", sostén nas súas páxinas. E un modo de "proporcionar aos empregados públicos as mellores ferramentas de acompañamento, na prestación duns servizos públicos de calidade, propios dun Estado de benestar maduro e unha democracia avanzada".
A idea é utilizar a IA xenerativa (a que é capaz de crear contido novo, como texto, imaxes, música ou datos, utilizando modelos adestrados en grandes cantidades de información existente) para "desenvolver unha Administración aberta e moderna, optimizando as capacidades e o investimento en activos tecnolóxicos para xerar servizos públicos inclusivos (…) garantindo a protección de datos e a seguridade da información".
O plan do Goberno é usar esta tecnoloxía para analizar "grandes volumes de datos" para "mellorar a toma de decisións no desenvolvemento de políticas públicas", a "eficiencia da operación diaria de numerosos procesos administrativos" e detectar de forma "máis precisa" os "problemas sociais", facer "mellores predicións sobre o efecto das políticas públicas" e automatizar procesos.
As aplicacións prácticas
A nova Axencia Española de Supervisión da Intelixencia Artificial (AESIA), con sede na Coruña, comezará a traballar nas próximas semanas
Xa existen exemplos de aplicacións prácticas. O Concello de París utiliza IA para comprobar quen ten dereito a axudas sociais. O da localidade sueca de Lidingö úsaa para asesorar coidados domiciliarios e residencias de anciáns. O Ministerio de Educación de Polonia implementou algoritmos para emparellar os nenos coas escolas. O único límite é a imaxinación.
O Goberno español xa preveu financiar con 21 millóns de euros un laboratorio dedicado a desenvolver "solucións innovadoras para as entidades do sector público estatal" que a Axencia Española de Supervisión da Intelixencia Artificial (AESIA) deberá revisar desenvolvendo "un esquema de boas prácticas". O enxeñeiro Ignasi Belda será o director desta axencia, que empezará a traballar este verán e ten sede na Coruña.
É só o principio dunha práctica que promete solucións pero tamén expón serias dúbidas. Quen decide os algoritmos? Como podemos estar seguros de que son xustos e de que non conteñen nesgos?
O titular do Ministerio para a Transformación Dixital e a Función Pública, José Luis Escrivá, expresábao hai uns días: “O que temos que decidir colectivamente como sociedade é onde poñemos os límites. É dicir: que ámbitos de decisión reservamos para nós mesmos". "E non é evidente onde están eses límites", advertiu, "nin con carácter xeral, nin aterrando a cada un dos sectores ou das aplicacións posibles".
Volker Türk, Alto Comisionado da ONU para os Dereitos Humanos, xa advertiu de que se deben avaliar os múltiples campos nos que a intelixencia artificial pode ter efectos transformadores en sentido negativo, como no combate á discriminación, a participación política, as liberdades civís ou o acceso a servizos públicos. É necesario, sinalou, un "esforzo concertado dos gobernos e as corporacións para establecer marcos eficaces de xestión de riscos e barreiras operativas".
"O que temos que decidir colectivamente como sociedade é onde poñemos os límites, é dicir, que ámbitos de decisións reservamos para nós mesmos", di o ministro Escrivá
A lista de casos prácticos, algúns aínda hipotéticos pero outros moi reais, que expoñen dúbidas sobre o uso da IA é interminable. Amnistía Internacional xa denunciou en 2020 o uso nesgado de modelos algorítmicos nos Países Baixos para avaliar o risco de que determinadas persoas cometesen un delito ou que estes delitos se cometesen en lugares específicos da cidade, o que supuxo a vixilancia masiva e discriminatoria aos habitantes da localidade neerlandesa de Raermond procedentes de Europa Oriental baixo un claro nesgo racista que relacionaba país de orixe con delincuencia.
"As institucións públicas de todo o mundo están a acudir progresivamente á utilización de sistemas de Intelixencia Artificial e á colaboración público-privada na revisión de solicitudes de axudas sociais directas; para detectar posibles fraudes en baixas laborais; na concesión de prazas en centros educativos públicos; no apoio e orientación na procura de emprego; nos programas de pago de impostos... así como na 'predición' de delitos", denuncia Amnistía.
Un dos principais riscos da IA é precisamente a posibilidade de nesgo algorítmico, que pode dar lugar a decisións inxustas ou discriminatorias. Moitos temen que a Intelixencia Artificial poida ser pirateada ou manipulada, o que pode desencadear un dano significativo para a seguridade e a privacidade dos cidadáns en asuntos tan sensibles como a saúde ou a información financeira.
Boas prácticas
Suponse que a recentemente creada AESIA en España analizando tendencias, xerando debate social, identificando boas prácticas e riscos emerxentes e establecendo boas prácticas para promover modelos transparentes e abertos.
Porque a desconfianza cara á IA na administración pública fundaméntase na súa opacidade, que dificulta a comprensión e supervisión de como se toman as decisións; no temor a que se perpetúen ou amplifiquen rumbos discriminatorios; ou no seu acceso ao enorme volume de datos que o Estado ten de todos os cidadáns. Hai temor tamén a que a dependencia excesiva dos sistemas de IA poida reducir a autonomía e a capacidade crítica dos funcionarios públicos. E está encima da mesa a percepción de que as decisións importantes están a tomarse mediante sistemas de IA pode erosionar a confianza do público nas institucións democráticas.
"A gobernanza algorítmica pode ser un factor de democratización nalgúns ámbitos e non tanto noutros. En todo caso, por moitos datos que se puideran procesar, a decisión última nunha democracia corresponde ao pobo, titular da soberanía"
Daniel Innerarity, catedrático de Filosofía Política da Universidade do País Vasco e titular da Cátedra de Intelixencia Artificial e Democracia do Instituto Universitario Europeo en Florencia, acaba de presentar o documento Intelixencia artificial e democracia, que a Unesco presentará nos próximos días. Un text que se fai eco dos "diversos problemas e desafíos para a democracia" que expón a gobernanza algorítmica, en particular "a identificación das tarefas que poden ser resoltas por un algoritmo sen danar os valores democráticos e o conxunto de condicións que aseguren esa compatibilidade".
"Quizais a única certeza política que retemos hoxe en día é que a política do futuro será moi diferente da política no pasado. Non sabemos aínda con exactitude e aínda é pronto para determinar se as novas tecnoloxías melloran ou fan imposible a democracia, pero é un feito que xa están a impactar a nosa vida política e modificando dinámicas democráticas". "Seguen tendo valor e sentido os principios de autogoberno democrático nunha esfera pública dixital, automatizada e rexida en boa parte pola gobernanza algorítmica? Estamos ante un cambio de era que debemos simplemente aceptar ou hai neste momento histórico oportunidades novas de democratización?", pregúntase o documento.
"Gobernar é un acto algorítmico e o será aínda máis, xa que boa parte das decisións de goberno son adoptadas por sistemas automatizados". O problema é "ata que punto (…) a utilización de sistemas de decisión automatizada é compatible co que consideramos un sistema político de toma de decisións". E a resposta, segundo o documento da Unesco, é que "a gobernanza algorítmica pode ser un factor de democratización nalgúns ámbitos e non tanto noutros". Sen esquecer que "en todo caso, por moitos datos que se puideran procesar, a decisión última nunha democracia corresponde ao pobo, titular da soberanía".
Innerarity, en conversación con infoLibre, explícao así: "A gobernanza algorítmica" é moi oportuna para "certas partes do proceso político e moi pouco adecuada para outras". A gran cuestión, subliña, é que os gobernantes identifiquen ben "que partes son algoritmizables e cales non o son tanto".
Para explicalo, gústalle poñer un exemplo real tomado de Nova York. O concello da cidade elaborou no seu día un algoritmo para a distribución do alumnado no sistema escolar e non foi ata despois de telo que os seus responsables se deron conta de que antes debían decidir cal era o mellor criterio: asignar prazas por proximidade ou impulsar a mestura social. "As dúas cousas son atendibles e son interesantes, pero non se levan demasiado ben", sinala Innerarity. Conseguir un equilibrio entre esas dúas variables "é unha decisión política" que hai que tomar antes de dicirlle ao algoritmo que proceda a distribuír aos alumnos.
"Máis que temas inocentes e temas prohibidos, distinguiría entre partes do proceso de decisión. Hai un criterio que funciona bastante ben: naquelas decisións ou problemas para os cales é moi importante ter moitos datos e as solucións son binarias, os criterios están claros e non hai incerteza, a intelixencia artificial vai aforrar moitísimo tempo, vaino facer mellor que nós, seguramente con menos nesgos". Pero para aqueles problemas que chamamos "problemas salvaxes, pouco estruturados, onde hai unha gran ambigüidade, onde hai un compoñente de aposta, para iso a intelixencia artificial é pouco intelixente".
No primeiro grupo de problemas, a recomendación de Innerarity é que "non compitamos coas máquinas" porque "o van a facer moi ben". No segundo, en cambio, en asuntos sobre os que hai poucos datos, pouco tempo ou unha gran ambigüidade, tales como convocar eleccións ou aprazalas, casar agora ou deixalo para máis tarde, "as decisións difíciles", subliña, "as máquinas van axudar pouco".
A importancia de facelo ben
En calquera caso, o responsable da cátedra florentina Intelixencia Artificial e Democracia é optimista. "Eu neste momento transmitiría unha mensaxe extremadamente positiva" fronte ás mensaxes "apocalípticas" que adoitan acompañar as opinións sobre a IA. A proba "máis evidente para as persoas é a saúde. O cruzamento de datos para facer diagnósticos" ou a capacidade de facer "terapias máis focalizadas nas enfermidades". E pon un exemplo fácil de entender: a IA xa ve cousas nunha simple radiografía que se escapan aos médicos máis experimentados e que poden axudar a facer mellor o seu traballo.
A clave do éxito de que "o fagamos ben", apunta, é que manteñamos a conexión entre as máquinas e os humanos, sobre todo tendo en conta os nesgos das primeiras e dos segundos. "Xa os coñecemos bastante ben, xa sabemos cales son uns e cales son outros. Por tanto, estamos en condicións de que uns corrixan aos outros". E tamén, por suposto, que calquera decisión, por moito que sexa tomada polo algoritmo, "ten que ser entendida e aprobada polos seus destinatarios. Se non, non estaremos nunha sociedade democrática", advirte.
E ese entendemento non é unha responsabilidade que a xente deba asumir de maneira individual, senón que ten que ser asumida por institucións. Algunhas públicas, como a recentemente creada AESIA, e outras directamente en mans da sociedade civil. "O importante é que haxa supervisión", que na ecuación haxa humanos "que dean garantía de confiabilidade".
"Non vale dicir que temos aquí un sistema que nos permite prescindir da xente porque lle imos dar o que quere. A xente debe ser incluída no proceso de toma decisión", di Daniel Innerarity
Iso si, advirte Innerarity: "Non pensemos que porque haxa un humano detrás, aquilo vai carecer de nestos". Entendamos, en cambio, que "a intelixencia artificial tamén pode poñerse ao servizo da identificación dos nosos nesgos".
O Estado moderno, lembra, fundouse sobre a idea de tomar decisións de maneira "máis obxectiva, máis procedemental, menos carismática. Que non dependésemos para as decisións do líder ou da ocorrencia momentánea, senón dun procedemento taxado". E é aí, na súa opinión, onde hai que situar a IA, nun mundo no que cada vez máis "aumenta a complexidade dos asuntos".
"Algúns falaron de que entramos nunha especie de cambio de réxime. Non no sentido no que se di na disputa política, senón no sentido de que agora van gobernar en boa medida os algoritmos. Hai quen falou dunha gobernanza algorítmica, dunha algocracia".
"O que prometen o Big Data e a gobernanza algorítmica é que xa non vai haber mostras, senón que vai haber totalidades de poboación. Imos ter métodos moitísimo máis rápidos, moitísimo máis baratos, moitísimo máis precisos, máis exactos, e imos ser máis capaces, esta sería a gran promesa, de coñecer moi ben as necesidades e os intereses reais da xente".
A través dos datos, "a sociedade pódesenos facer máis lexible, máis comprensible, pódese facer unha mellor regulación, mesmo se pode facer unha determinada anticipación dalgúns problemas. O cal, dito sexa de paso, non está nada mal nun mundo no cal case todas as crises están a pillarnos por sorpresa".
A gobernanza algorítmica fainos "dúas grandes promesas, unha de obxectividade e outra de subxectividade", que hai que someter á democracia. A primeira é moi atractiva en tempos de "polarización, arbitrariedade" e "enfrontamento". Os algoritmos son "menos vulnerables aos rumbos, polo menos aos rumbos humanos e aos prexuízos que tantas veces temos os humanos", así que con eles "podemos medir mellor". A segunda, a promesa de subxectividade, é que imos poder "coñecer moi ben a vontade da xente".
Pero cando falamos de democracia, "o fundamental é o procedemento e non tanto o resultado". E "procedemento quere dicir a participación, a toma en consideración dos intereses de todos. Por iso non vale dicir que temos aquí un sistema que nos permite prescindir da xente porque lle imos a dar o que quere. A xente debe ser incluída no proceso de toma de decisión".
Innerarity subliña que "poder, intimidade, comunicación, atención, educación, democracia, van significar cousas distintas" no futuro, "como ocorreu coas grandes revolucións da humanidade. Ninguén sabe cal vai ser o resultado final". Pero "non é un meteorito que vén de fóra", lembra. "Aquí hai unha tecnoloxía da cal os humanos nos apropiamos e podemos facer cousas con ela".
"Por iso é tan importante a recentemente creada axencia de supervisión e outras institucións que se vaian a constituír. Por iso é tan importante que as empresas e os gobernos establezan instrumentos de mediación", para que os individuos non queden expostos a ter que supervisar pola súa conta a IA. "A única maneira de resolvelo é xerar institucións que constitúan unha rede tupida, ampla, en virtude da cal nós, individuos inexpertos e leigos nesta materia, podamos dicir: Eu disto fíome".
O documento da Unesco sobre IA redactado por Innerarity conclúe facendo varias recomendacións para a gobernanza democrática da intelixencia artificial. Desde medidas de educación e concienciación (evitar esaxeracións tanto positivas como negativas e informar os cidadáns sobre o alcance real das transformacións tecnolóxicas e as súas implicacións) ata a aprobación de medidas regulatorias avaliando as tecnoloxías desde unha perspectiva democrática, considerando o seu impacto na distribución de poder.
Fai falta "garantir o pluralismo en todo o proceso de intelixencia artificial, desde a diversidade de xénero no deseño dos sistemas ata a mitigación de nesgos nos datos", así como "democratizar a gobernanza da IA, abrindo o proceso de toma de decisións a novos actores como rexións, cidades, actores privados e a cidadanía en xeral". É preciso "asegurar a participación pública, a supervisión e a avaliación independente dos sistemas de IA e de protección de datos".
E iso por non falar da intelixencia artificial xeral, con capacidade de entender, aprender e aplicar coñecementos de maneira similar a un ser humano, que algúns predín para dentro de moi pouco tempo. "Non creo eu que vaiamos ter unha intelixencia artificial que nos supere", di sen titubear Daniel Innerarity. "Non o vexo verosímil pola propia natureza do asunto".
