{"id":2853476,"date":"2024-06-26T09:00:00","date_gmt":"2024-06-26T09:00:00","guid":{"rendered":"https:\/\/blogue.rbe.mec.pt\/2853476.html"},"modified":"2026-05-13T13:39:13","modified_gmt":"2026-05-13T13:39:13","slug":"a-inteligencia-artificial-nas-bibliotecas-escolares-desafios-eticos-e-legais","status":"publish","type":"post","link":"https:\/\/projetos.dge.mec.pt\/rbe\/?p=2853476","title":{"rendered":"A intelig\u00eancia artificial nas Bibliotecas Escolares:\u00a0Desafios \u00e9ticos e legais"},"content":{"rendered":"

\"2024-06-27.jpg\"<\/span><\/p>\n

<\/p>\n

Ao longo dos artigos da s\u00e9rie \u201cA intelig\u00eancia artificial nas bibliotecas escolares\u201d foram apresentados os desafios e as oportunidades<\/a> que o uso desta tecnologia coloca \u00e0s bibliotecas, numa perspetiva integrada e integradora, que deve considerar o contexto em que se insere cada escola, bem como as orienta\u00e7\u00f5es emanadas dos documentos de refer\u00eancia de cada agrupamento de escolas\/escola n\u00e3o agrupada, como \u00e9 o caso do Plano de A\u00e7\u00e3o de Desenvolvimento Digital<\/a> (PADDE).<\/p>\n

<\/p>\n

Foram, ainda, apresentados alguns dos benef\u00edcios da integra\u00e7\u00e3o da intelig\u00eancia artificial (IA) no apoio ao trabalho dos professores<\/a> e nas bibliotecas escolares, ao permitirem uma melhor organiza\u00e7\u00e3o e gest\u00e3o de recursos e a presta\u00e7\u00e3o de servi\u00e7os personalizados<\/a> para responder \u00e0s necessidades individuais dos alunos<\/a> e criar uma experi\u00eancia de aprendizagem mais envolvente<\/a>.<\/p>\n

<\/p>\n

No entanto, a implementa\u00e7\u00e3o destas tecnologias tamb\u00e9m levanta quest\u00f5es \u00e9ticas e legais<\/strong> que devem ser cuidadosamente consideradas para garantir um uso respons\u00e1vel e seguro da IA em contexto educativo. Este \u00faltimo artigo da s\u00e9rie \u201cA intelig\u00eancia artificial nas bibliotecas escolares\u201d aborda estas quest\u00f5es.<\/p>\n

<\/p>\n

Privacidade<\/strong><\/span><\/p>\n

<\/p>\n

Uma das principais preocupa\u00e7\u00f5es \u00e9ticas e legais \u00e9 a quest\u00e3o da privacidade dos dados dos alunos. As bibliotecas escolares podem recolher e armazenar informa\u00e7\u00f5es pessoais e padr\u00f5es de comportamento dos alunos, por exemplo as prefer\u00eancias de navega\u00e7\u00e3o nas plataformas disponibilizadas pela biblioteca e os hist\u00f3ricos de pesquisa, para adequar os servi\u00e7os que prestam \u00e0s necessidades e interesses de cada utilizador. A utiliza\u00e7\u00e3o de tecnologias de IA para processar estes dados pode aumentar o risco de viola\u00e7\u00e3o de privacidade, especialmente se os dados forem mal geridos ou acedidos por terceiros sem o devido consentimento.<\/p>\n

<\/p>\n

\u00c9 necess\u00e1rio implementar medidas rigorosas de prote\u00e7\u00e3o atrav\u00e9s de pol\u00edticas claras de reten\u00e7\u00e3o e elimina\u00e7\u00e3o de dados, para salvaguardar a privacidade dos alunos, em conformidade com o Regulamento Geral sobre a Prote\u00e7\u00e3o de Dados (RGPD) da Uni\u00e3o Europeia (EUR-Lex, 2016).<\/p>\n

<\/p>\n

Equidade<\/strong><\/span><\/p>\n

<\/p>\n

Garantir a equidade no acesso e na utiliza\u00e7\u00e3o das tecnologias de IA \u00e9 outro dos desafios que se coloca \u00e0s bibliotecas escolares. Se estes sistemas n\u00e3o forem desenvolvidos e implementados de forma justa e inclusiva, existe o risco de que possam perpetuar ou at\u00e9 ampliar as desigualdades existentes (Binns, 2018). Isto pode ocorrer devido a preconceitos incorporados nos algoritmos ou ao acesso desigual \u00e0s tecnologias, deixando alguns grupos de alunos em desvantagem.<\/p>\n

<\/p>\n

\u00c9 essencial que as bibliotecas escolares adotem pr\u00e1ticas de desenvolvimento e implementa\u00e7\u00e3o de IA que promovam a equidade, garantindo que todos os alunos possam beneficiar destas tecnologias, em conformidade com os princ\u00edpios de \u00e9tica da IA propostos pela Comiss\u00e3o Europeia (2019).<\/p>\n

<\/p>\n

Transpar\u00eancia<\/strong><\/span><\/p>\n

<\/p>\n

A transpar\u00eancia \u00e9 fundamental para criar confian\u00e7a nas tecnologias de IA. Os alunos, pais e professores devem compreender que decis\u00f5es s\u00e3o tomadas pelos sistemas de IA, especialmente quando podem ter um impacto significativo no processo de aprendizagem ou no acesso a recursos. Isto requer algoritmos audit\u00e1veis e explic\u00e1veis, bem como a disponibiliza\u00e7\u00e3o de informa\u00e7\u00f5es claras e compreens\u00edveis sobre o funcionamento destas ferramentas, para que possam ser devidamente escrutinadas, se necess\u00e1rio, em conformidade com os requisitos de transpar\u00eancia estabelecidos pelo RGPD.<\/p>\n

<\/p>\n

Regulamenta\u00e7\u00e3o<\/strong><\/span><\/p>\n

<\/p>\n

Para enfrentar estes desafios de forma eficaz, \u00e9 essencial que as bibliotecas escolares estejam em conformidade com a regulamenta\u00e7\u00e3o em vigor relativamente ao uso de IA em ambiente educativo. Para isso, devem ser implementadas pol\u00edticas claras de privacidade e seguran\u00e7a de dados e realizadas avalia\u00e7\u00f5es de impacto de prote\u00e7\u00e3o de dados, garantindo que os sistemas de IA s\u00e3o audit\u00e1veis e transparentes.<\/p>\n

<\/p>\n

Para al\u00e9m da conformidade com o RGPD, as bibliotecas devem conhecer a posi\u00e7\u00e3o do Parlamento Europeu, aprovada a 13 de mar\u00e7o de 2024[1]<\/span><\/a>, que estabelece regras harmonizadas em mat\u00e9ria de intelig\u00eancia artificial e regula os sistemas de IA de alto risco, como os utilizados em ambiente educativo.<\/p>\n

<\/p>\n

As bibliotecas escolares desempenham um papel crucial na implementa\u00e7\u00e3o respons\u00e1vel e segura da IA em contexto educativo. Ao alinhar as suas pr\u00e1ticas com a regulamenta\u00e7\u00e3o em vigor, implementar medidas de prote\u00e7\u00e3o de dados adequadas e garantir a transpar\u00eancia e o consentimento, as bibliotecas podem aproveitar os benef\u00edcios da IA (Mittelstadt et al., 2016) de forma justa, \u00e9tica e segura para os alunos.<\/p>\n

<\/p>\n

Nota:<\/strong><\/span>
[1]<\/span><\/a> Dispon\u00edvel em https:\/\/www.europarl.europa.eu\/doceo\/document\/TA-9-2024-0138_PT.pdf<\/a><\/p>\n

<\/p>\n

Refer\u00eancias<\/strong><\/span><\/p>\n

<\/p>\n

    <\/p>\n
  1. <\/span>Binns, R. (2018). Fairness in machine learning: Lessons from political philosophy. In Conference on Fairness, Accountability and Transparency<\/em> (pp. 149-159).<\/span>https:\/\/arxiv.org\/pdf\/1712.03586<\/a><\/li>\n

    <\/p>\n

  2. <\/span>Comiss\u00e3o Europeia. (2019). Ethics guidelines for trustworthy AI<\/em>. Dispon\u00edvel em https:\/\/ec.europa.eu\/digital-single-market\/en\/news\/ethics-guidelines-trustworthy-ai<\/a><\/li>\n

    <\/p>\n

  3. <\/span>EUR-Lex. (2016). Regulation (EU) 2016\/679 of the European Parliament and of the Council<\/em>. https:\/\/eur-lex.europa.eu\/eli\/reg\/2016\/679\/oj<\/a><\/li>\n

    <\/p>\n

  4. Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society<\/em>, 3(2). https:\/\/journals.sagepub.com\/doi\/full\/10.1177\/2053951716679679\u00a0<\/a><\/li>\n

    <\/p>\n

  5. \ud83d\udcf7 Imagem criada com Designer \u2013 Copilot<\/em><\/li>\n

    <\/ol>\n

    <\/p>\n

    ___________________________________________________________________________________________<\/strong><\/span><\/p>\n

    <\/p>\n

    Veja tamb\u00e9m – S\u00e9rie: A Intelig\u00eancia Artificial nas Bibliotecas Escolares<\/strong><\/span><\/p>\n

    <\/p>\n

    <\/span><\/p>\n

    <\/p>\n

    \u00a0A intelig\u00eancia artificial nas bibliotecas escolares: servi\u00e7os inovadores e personalizados<\/a><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE, Qua | 08.05.24)<\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    <\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0Estrat\u00e9gias inovadoras para apoiar o trabalho dos professores<\/a><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE, Qua |\u00a010<\/span>.04.24)<\/p>\n

    <\/span><\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0Uma resposta estrat\u00e9gica aos desafios da aprendizagem. Os assistentes virtuais<\/a><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE, Qua | 06.03.24)<\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    <\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0Uma resposta estrat\u00e9gica aos desafios da aprendizagem<\/a><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE, Qua |\u00a014<\/span>.02.24)<\/span><\/p>\n

    <\/p>\n

    \n

    <\/p>\n

    <\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0Um Contributo para o Desenvolvimento Digital das Escolas<\/a><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE,\u00a0Qua | 10.01.24)<\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    <\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n

    <\/p>\n

    \u00a0Desafios e Oportunidades<\/a><\/span><\/p>\n

    <\/p>\n

    \u00a0(Blogue RBE,\u00a0Qui |\u00a007<\/span>.12.23)<\/span><\/p>\n

    <\/p>\n

    \u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

    Ao longo dos artigos da s\u00e9rie \u201cA intelig\u00eancia artificial nas bibliotecas escolares\u201d foram apresentados os desafios e as oportunidades que o uso desta tecnologia coloca \u00e0s bibliotecas, numa perspetiva integrada e integradora, que deve considerar o contexto em que se insere cada escola, bem como as orienta\u00e7\u00f5es emanadas dos documentos de refer\u00eancia de cada agrupamento de escolas\/escola n\u00e3o agrupada, como \u00e9 o caso do Plano de A\u00e7\u00e3o de Desenvolvimento Digital (PADDE). Foram, ainda, apresentados alguns dos benef\u00edcios da integra\u00e7\u00e3o da intelig\u00eancia artificial (IA) no apoio ao trabalho dos professores e nas bibliotecas escolares, ao permitirem uma melhor organiza\u00e7\u00e3o e gest\u00e3o de recursos e a presta\u00e7\u00e3o de servi\u00e7os personalizados para responder \u00e0s necessidades individuais dos alunos e criar uma experi\u00eancia de aprendizagem mais envolvente. No entanto, a implementa\u00e7\u00e3o destas tecnologias tamb\u00e9m levanta quest\u00f5es \u00e9ticas e legais que devem ser cuidadosamente consideradas para garantir um uso respons\u00e1vel e seguro da IA em contexto educativo. Este \u00faltimo artigo da s\u00e9rie \u201cA intelig\u00eancia artificial nas bibliotecas escolares\u201d aborda estas quest\u00f5es. Privacidade Uma das principais preocupa\u00e7\u00f5es \u00e9ticas e legais \u00e9 a quest\u00e3o da privacidade dos dados dos alunos. As bibliotecas escolares podem recolher e armazenar informa\u00e7\u00f5es pessoais e padr\u00f5es de comportamento dos alunos, por exemplo as prefer\u00eancias de navega\u00e7\u00e3o nas plataformas disponibilizadas pela biblioteca e os hist\u00f3ricos de pesquisa, para adequar os servi\u00e7os que prestam \u00e0s necessidades e interesses de cada utilizador. A utiliza\u00e7\u00e3o de tecnologias de IA para processar estes dados pode aumentar o risco de viola\u00e7\u00e3o de privacidade, especialmente se os dados forem mal geridos ou acedidos por terceiros sem o devido consentimento. \u00c9 necess\u00e1rio implementar medidas rigorosas de prote\u00e7\u00e3o atrav\u00e9s de pol\u00edticas claras de reten\u00e7\u00e3o e elimina\u00e7\u00e3o de dados, para salvaguardar a privacidade dos alunos, em conformidade com o Regulamento Geral sobre a Prote\u00e7\u00e3o de Dados (RGPD) da Uni\u00e3o Europeia (EUR-Lex, 2016). Equidade Garantir a equidade no acesso e na utiliza\u00e7\u00e3o das tecnologias de IA \u00e9 outro dos desafios que se coloca \u00e0s bibliotecas escolares. Se estes sistemas n\u00e3o forem desenvolvidos e implementados de forma justa e inclusiva, existe o risco de que possam perpetuar ou at\u00e9 ampliar as desigualdades existentes (Binns, 2018). Isto pode ocorrer devido a preconceitos incorporados nos algoritmos ou ao acesso desigual \u00e0s tecnologias, deixando alguns grupos de alunos em desvantagem. \u00c9 essencial que as bibliotecas escolares adotem pr\u00e1ticas de desenvolvimento e implementa\u00e7\u00e3o de IA que promovam a equidade, garantindo que todos os alunos possam beneficiar destas tecnologias, em conformidade com os princ\u00edpios de \u00e9tica da IA propostos pela Comiss\u00e3o Europeia (2019). Transpar\u00eancia A transpar\u00eancia \u00e9 fundamental para criar confian\u00e7a nas tecnologias de IA. Os alunos, pais e professores devem compreender que decis\u00f5es s\u00e3o tomadas pelos sistemas de IA, especialmente quando podem ter um impacto significativo no processo de aprendizagem ou no acesso a recursos. Isto requer algoritmos audit\u00e1veis e explic\u00e1veis, bem como a disponibiliza\u00e7\u00e3o de informa\u00e7\u00f5es claras e compreens\u00edveis sobre o funcionamento destas ferramentas, para que possam ser devidamente escrutinadas, se necess\u00e1rio, em conformidade com os requisitos de transpar\u00eancia estabelecidos pelo RGPD. Regulamenta\u00e7\u00e3o Para enfrentar estes desafios de forma eficaz, \u00e9 essencial que as bibliotecas escolares estejam em conformidade com a regulamenta\u00e7\u00e3o em vigor relativamente ao uso de IA em ambiente educativo. Para isso, devem ser implementadas pol\u00edticas claras de privacidade e seguran\u00e7a de dados e realizadas avalia\u00e7\u00f5es de impacto de prote\u00e7\u00e3o de dados, garantindo que os sistemas de IA s\u00e3o audit\u00e1veis e transparentes. Para al\u00e9m da conformidade com o RGPD, as bibliotecas devem conhecer a posi\u00e7\u00e3o do Parlamento Europeu, aprovada a 13 de mar\u00e7o de 2024[1], que estabelece regras harmonizadas em mat\u00e9ria de intelig\u00eancia artificial e regula os sistemas de IA de alto risco, como os utilizados em ambiente educativo. As bibliotecas escolares desempenham um papel crucial na implementa\u00e7\u00e3o respons\u00e1vel e segura da IA em contexto educativo. Ao alinhar as suas pr\u00e1ticas com a regulamenta\u00e7\u00e3o em vigor, implementar medidas de prote\u00e7\u00e3o de dados adequadas e garantir a transpar\u00eancia e o consentimento, as bibliotecas podem aproveitar os benef\u00edcios da IA (Mittelstadt et al., 2016) de forma justa, \u00e9tica e segura para os alunos. Nota:[1] Dispon\u00edvel em https:\/\/www.europarl.europa.eu\/doceo\/document\/TA-9-2024-0138_PT.pdf Refer\u00eancias Binns, R. (2018). Fairness in machine learning: Lessons from political philosophy. In Conference on Fairness, Accountability and Transparency (pp. 149-159).https:\/\/arxiv.org\/pdf\/1712.03586 Comiss\u00e3o Europeia. (2019). Ethics guidelines for trustworthy AI. Dispon\u00edvel em https:\/\/ec.europa.eu\/digital-single-market\/en\/news\/ethics-guidelines-trustworthy-ai EUR-Lex. (2016). Regulation (EU) 2016\/679 of the European Parliament and of the Council. https:\/\/eur-lex.europa.eu\/eli\/reg\/2016\/679\/oj Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2). https:\/\/journals.sagepub.com\/doi\/full\/10.1177\/2053951716679679\u00a0 \ud83d\udcf7 Imagem criada com Designer \u2013 Copilot ___________________________________________________________________________________________ Veja tamb\u00e9m – S\u00e9rie: A Intelig\u00eancia Artificial nas Bibliotecas Escolares \u00a0A intelig\u00eancia artificial nas bibliotecas escolares: servi\u00e7os inovadores e personalizados \u00a0(Blogue RBE, Qua | 08.05.24) \u00a0 \u00a0 \u00a0 \u00a0Estrat\u00e9gias inovadoras para apoiar o trabalho dos professores \u00a0(Blogue RBE, Qua |\u00a010.04.24) \u00a0 \u00a0Uma resposta estrat\u00e9gica aos desafios da aprendizagem. Os assistentes virtuais \u00a0(Blogue RBE, Qua | 06.03.24) \u00a0 \u00a0 \u00a0Uma resposta estrat\u00e9gica aos desafios da aprendizagem \u00a0(Blogue RBE, Qua |\u00a014.02.24) \u00a0 \u00a0Um Contributo para o Desenvolvimento Digital das Escolas \u00a0(Blogue RBE,\u00a0Qua | 10.01.24) \u00a0 \u00a0 \u00a0Desafios e Oportunidades \u00a0(Blogue RBE,\u00a0Qui |\u00a007.12.23) \u00a0<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[30],"tags":[],"class_list":["post-2853476","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2853476","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2853476"}],"version-history":[{"count":1,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2853476\/revisions"}],"predecessor-version":[{"id":3085860,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2853476\/revisions\/3085860"}],"wp:attachment":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2853476"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2853476"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2853476"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}