O Instituto das Mulleres vén de publicar a guía EDUGENIA para concienciar nas aulas dos nesgos que provocan estas ferramentas cada vez máis empregadas no ensino
As ferramentas de Intelixencia Artificial xenerativa están do centro de numerosos debates que dan conta do crecente papel que desenvolven en moitos ámbitos da sociedade. Alértase do seu impacto negativo sobre o emprego, do prexuízo que o seu uso está a causar xa sobre o ensino, e de riscos aínda meirandes, mesmo apuntándose posibilidades apocalípticas para o futuro da especie humana, con alertas sobre a necesidade de regular o poder das big tech.
Cada vez máis os e as estudantes apóianse en chatbots de IA como ChatGPT, Gemini ou Claude para xerar ideas, redactar textos ou buscar información. Pôrén. segundo os expertos, o uso da IA -máis aínda no ensino- limita a capacidade de desenvolver un pensamento crítico e de reflexionar, ademais de que moitas veces estas ferramentas proporcionan información falsa e nesgada, con evidentes nesgos de xénero que prexudican as mulleres.
O conxunto de ferramentas (toolkit) EDUGENIA inclúe recomendacións, boas prácticas e recursos para controlar os rumbos da IA e que permiten identificar discriminacións nos chatbots de IA relacionadas co xénero, a etnia ou a situación socioeconómica.
Para contrarrestar este efecto nocivo, o Instituto das Mulleres vén de publicar a guía EDUGENIA para concienciar nas aulas dos nesgos de xénero da IA. O documento, que se pode consultar e descargar aquí, foi desenvolvido en colaboración coa Universitat Oberta de Catalunya, a Universitat de Lleida e Plàudite Teatre. A guía está enfocada ao profesorado e alumnado de secundaria e proporciona recursos prácticos para traballar na clase.
A guía EDUGENIA utiliza principios da pedagoxía feminista para corrixir as discriminacións que reproduce a IA, procedentes, dos desequilibrios xa existentes na sociedade. A investigación construíuse a partir de tres eixos: unha revisión narrativa de artigos científicos sobre IA, educación e xénero; unha análise dos marcos normativos europeo, español e catalán sobre IA e igualdade; e, finalmente, un estudo coa participación de 36 docentes de educación secundaria de Barcelona e Lleida, xunto con dez mozos e mozas para coñecer as necesidades e experiencias do ensino da IA con perspectiva de xénero.
"O uso non controlado da IA pode carrexar consecuencias nefastas. Por iso, é imprescindible que estudantes e profesores teñan un coñecemento crítico e informado", destaca unha das coordinadoras da publicación
O conxunto de ferramentas (toolkit) EDUGENIA inclúe recomendacións, boas prácticas e recursos para controlar os rumbos da IA e que permiten identificar discriminacións nos chatbots de IA relacionadas co xénero, a etnia ou a situación socioeconómica.
A guía propón actividades diversas para distintos niveis educativos. Por exemplo, analizar na aula varios oficios e investigar as desigualdades de xénero en diferentes profesións utilizando un asistente de IA e, igualmente, debater sobre como os algoritmos poden promover rumbos de xénero nos procesos de selección de persoal. No ámbito da filosofía, anímase ao alumnado a utilizar ChatGPT para analizar textos filosóficos, a debater problemas éticos da IA e a analizar exemplos de xénero e sociais en datos de adestramento destas tecnoloxías, e como afectan os resultados que proporcionan.
"Córrese o risco de que caiamos nunha excesiva dependencia das ferramentas de IA e de que a xente tome decisións unicamente a partir das respostas que proporciona", engade
"Córrese o risco de que caiamos nunha excesiva dependencia das ferramentas de IA e de que a xente tome decisións unicamente a partir das respostas que proporcionan. O uso non controlado da IA pode carrexar consecuencias nefastas. Por iso, é imprescindible que estudantes e profesores teñan un coñecemento crítico e informado sobre o uso das devanditas ferramentas", explica Milagros Sáinz, unha das responsables do proxecto.
Para Marie-Monique Schaper, a outra coordinadora, "a chegada da IA obríganos a reformularnos que significa ensinar tecnoloxía. Tradicionalmente, a educación en informática centrouse en aprender ferramentas e habilidades técnicas. Con todo, cada vez existe un maior consenso en que tamén debe axudar ao alumnado a comprender o impacto social destas tecnoloxías e a desenvolver unha mirada crítica sobre elas".
Cómpre "fomentar unha mirada crítica e desenvolver contornas educativas que garantan a inclusión, a equidade e a igualdade de xénero"
As autoras esperan que a guía chegue á maior cantidade de organizacións posible para fomentar entre o profesorado un uso crítico e ético das ferramentas de IA na aula. "A clave está en ser conscientes dos riscos, fomentar unha mirada crítica e desenvolver contornas educativas que garantan a inclusión, a equidade e a igualdade de xénero", afirman.
