A inteligência artificial (IA) está cada vez mais presente na nossa sociedade, influenciando a forma como trabalhamos, aprendemos e interagimos uns com os outros. Em educação, pode contribuir para a melhoria das práticas de ensino, aprendizagem e avaliação, pois, entre outras coisas, permite responder às necessidades individuais dos alunos, personalizando percursos de aprendizagem e fornecendo informações importantes sobre o seu progresso.
É neste contexto que surge a publicação, pela Comissão Europeia, do documento intitulado Orientações éticas para educadores sobre a utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem [1], no âmbito do Plano de Ação para a Educação Digital (2021-2027).
Este documento ajuda os educadores a compreender o potencial que as aplicações de inteligência artificial e a utilização de dados podem ter na educação e alertar para os possíveis riscos. Os profissionais da educação poderão, assim, interagir de forma adequada com os sistemas de IA e explorar todo o seu potencial, pois “… terão agora uma base sólida para avançarem e expandirem a sua utilização destas tecnologias de uma forma atenta, segura e ética” (Comissão Europeia, 2022, p. 6).
O documento está estruturado em quatro partes fundamentais, que passamos a apresentar.
1. Política da UE em matéria de inteligência artificial e proposta de quadro regulamentar
No seguimento das Orientações Éticas para uma IA de Confiança, apresentadas em 2019, a Comissão Europeia definiu um quadro regulamentar em matéria de inteligência artificial (https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai), tendo criado o grupo de trabalho GPAN IA, constituído por especialistas nesta área (https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai), bem como um grupo de trabalho no âmbito dos dados (https://digital-strategy.ec.europa.eu/en/policies/data).
Neste capítulo são ainda apresentadas algumas das ideias erradas mais comuns sobre a utilização de IA e de dados, em contexto educativo, nomeadamente:
– A IA é demasiado difícil de compreender;
– A IA não tem qualquer papel na educação;
– A IA não é inclusiva;
– A IA comprometerá o papel do professor;
– Não se pode confiar nos sistemas de IA.
2. Exemplos da utilização de IA e de dados na educação
A IA pode ser utilizada em educação para apoiar práticas de ensino, aprendizagem e avaliação. De forma a facilitar a compreensão das potencialidades da IA, o documento apresenta quatro áreas de utilização:
– ensino dos alunos (sistema de tutoria inteligente, sistemas de tutoria baseados no diálogo, aplicações de aprendizagem de línguas);
– apoio aos alunos (ambientes de aprendizagem exploratória, avaliação formativa escrita, aprendizagem colaborativa apoiada pela IA);
– apoio aos professores (avaliação sumativa escrita, classificação de trabalhos escritos, monitorização de fóruns de alunos, assistentes de ensino através de IA, recomendação de recursos pedagógicos);
– apoio aos sistemas (prospeção de dados educativos para a afetação de recursos, diagnóstico de dificuldades de aprendizagem, serviços de orientação).
3. Considerações éticas e requisitos subjacentes às orientações éticas
Estas orientações apresentam quatro considerações fundamentais que estão na base da utilização ética da IA e dos dados no ensino, na aprendizagem e na avaliação:
– ação humana – capacidade de cada um para ser responsável pelos seus atos;
– equidade – necessidade de tratar todas as pessoas de forma equitativa na organização social;
– humanidade – necessidade de assegurar a identidade, integridade e dignidade de todas as pessoas;
– escolha justificada – utilização de conhecimentos, factos e dados para justificar as escolhas, que devem ser feitas de forma transparente e tendo em conta modelos de tomada de decisões participativos e colaborativos.
Nesse sentido, os requisitos essenciais para uma IA de confiança são:
– Ação e supervisão humanas;
– Diversidade, não discriminação e equidade;
– Bem-estar societal e ambiental;
– Privacidade e governação dos dados;
– Solidez técnica e segurança;
– Responsabilização.
Para cada um destes requisitos, o documento apresenta uma série de perguntas de orientação que fomentam a reflexão e apoiam os educadores na utilização de IA.
4. Orientações para educadores e dirigentes escolares
Neste capítulo, são apresentadas medidas que podem ser implementadas por educadores e dirigentes, levando-os a utilizar a IA de forma ética. Estas medidas são organizadas em seis cenários escolares e, em cada um, existem exemplos de perguntas de orientação que ajudam à tomada de decisão, para que a IA seja utilizada de forma ética e responsável:
1. Utilizar tecnologias de aprendizagem adaptativa às capacidades de cada aluno;
2. Utilizar painéis do aluno para orientar os alunos na sua aprendizagem;
3. Prever intervenções individualizadas para necessidades especiais;
4. Classificar trabalhos escritos através de ferramentas automatizadas;
5. Gerir as matrículas dos alunos e o planeamento dos recursos;
6. Utilizar robôs de conversação para ajudar os alunos e os pais a tratar das questões administrativas.
A utilização de IA e de dados em contexto educativo implica um planeamento rigoroso e uma implementação gradual, sempre acompanhada de avaliação, num trabalho colaborativo e reflexivo que envolva a comunidade escolar. Para isso a escola deve:
– Analisar os atuais sistemas de IA e a utilização de dados;
– Implantar políticas e procedimentos;
– Realizar um projeto-piloto do sistema de IA;
– Colaborar com o fornecedor do sistema de IA;
– Controlar o funcionamento do sistema de IA e avaliar os riscos;
– Debater com colegas;
– Colaborar com outras escolas;
– Comunicar com os pais, os alunos e a comunidade escolar;
– Manter-se atualizada.
O documento disponibiliza, ainda, um completo glossário de termos sobre IA e dados.
Referências
[1] Comissão Europeia, Direção-Geral da Educação, da Juventude, do Desporto e da Cultura (2022). Orientações éticas para educadores sobre a utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem. Serviço das Publicações da União Europeia. https://data.europa.eu/doi/10.2766/07
Fonte da imagem: [1]