{"id":2775967,"date":"2023-10-20T09:00:00","date_gmt":"2023-10-20T09:00:00","guid":{"rendered":"https:\/\/blogue.rbe.mec.pt\/2775967.html"},"modified":"2026-05-13T13:59:42","modified_gmt":"2026-05-13T13:59:42","slug":"o-dilema-da-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/projetos.dge.mec.pt\/rbe\/?p=2775967","title":{"rendered":"O dilema da Intelig\u00eancia Artificial"},"content":{"rendered":"

\"2023-10-20.png\"<\/span><\/p>\n

<\/p>\n

Potencial<\/strong><\/span><\/p>\n

<\/p>\n

Os sistemas de IA (Intelig\u00eancia Artificial) t\u00eam potencial para transformar o modo como aprendemos\/trabalhamos e vivemos.<\/p>\n

<\/p>\n

Automatizam vers\u00f5es agregadas de compet\u00eancias humanas com valor<\/strong>, usadas para ler, conhecer, expressar e influenciar\/manipular. \u00a0\u201cTodas as tecnologias t\u00eam consequ\u00eancias positivas e negativas, mas com a IA, o alcance dessas consequ\u00eancias \u00e9 extraordinariamente grande\u201d e, por isso, o uso de IA em educa\u00e7\u00e3o deve ser amplamente discutido [1].<\/p>\n

<\/p>\n

\"Imagem2.png\"Fonte da imagem [1]<\/span><\/p>\n

<\/p>\n

O gr\u00e1fico supra resulta de testes em que \u201co desempenho humano e de IA foram avaliados em cinco dom\u00ednios: reconhecimento de caligrafia, reconhecimento de fala, reconhecimento de imagem, compreens\u00e3o de leitura e compreens\u00e3o de linguagem. Dentro de cada dom\u00ednio, o desempenho inicial da IA \u00e9 definido como \u2013100\u201d e o desempenho humano corresponde \u00e0 linha de base zero.\u00a0 E mostra que, nos \u00faltimos 10 anos, a evolu\u00e7\u00e3o de IA tem sido veloz, pelo que, na maioria destas compet\u00eancias, ultrapassou o desempenho humano<\/strong> [1]. Estes testes – e estudo correspondente – foram originalmente publicados em Dynabench: Rethinking Benchmarking in NLP<\/em> [Natural Language Processing\/Processamento de Linguagem Natural, subdom\u00ednio de IA que ensina m\u00e1quinas a lidar com a linguagem humana] [2].<\/p>\n

<\/p>\n

Problemas\/Discuss\u00e3o<\/strong><\/span><\/p>\n

<\/p>\n

Porque faz parte do dia-a-dia e tem enorme potencial, \u00e9 importante envolver os alunos na reflex\u00e3o e uso cr\u00edtico de IA.<\/p>\n

<\/p>\n

H\u00e1 quest\u00f5es controversas que podem analisar, investigar e discutir para saber tomar decis\u00f5es informadas e intervir na discuss\u00e3o p\u00fablica:<\/p>\n

<\/p>\n

\ud83d\udccd A falta de regulamenta\u00e7\u00e3o capaz de promover o desenvolvimento sustent\u00e1vel e a responsabilidade social em IA;<\/p>\n

<\/p>\n

\ud83d\udccd Os impactos ambientais, podendo o treino de algoritmos de IA gerar maior consumo de energia e emiss\u00e3o de CO2 do que aquele que se verifica na atualidade. Segundo Maanvi Singh, o modelo de IA Bloom, de 2019, \u201cgerou cerca de 50 toneladas m\u00e9tricas de emiss\u00f5es de di\u00f3xido de carbono, o equivalente a um indiv\u00edduo fazer cerca de 60 voos entre Londres e Nova York\u201d. Em 2023, \u201ccerca de 500 toneladas m\u00e9tricas de CO2 foram produzidos apenas no treino do modelo GPT3 da ChatGPT – o equivalente ao funcionamento de mais de um milh\u00e3o de quil\u00f3metros de carros m\u00e9dios movidos a gasolina\u201d. E n\u00e3o se trata apenas de gasto de energia, mas tamb\u00e9m de \u00e1gua doce para arrefecimento do calor gerado pelos servidores dos data centers<\/em>. Neste sentido, para esta jornalista do The Guardian<\/em> a IA representa um risco ambiental e \u201cexistencial\u201d (3). Sobre os efeitos da IA no sistema de vida terrestre, domina o sil\u00eancio e a falta de informa\u00e7\u00e3o<\/strong> dos principais respons\u00e1veis.<\/p>\n

<\/p>\n

\ud83d\udccd Os impactos sociais\/equidade da IA, pois os dados que alimentam os seus resultados s\u00e3o essencialmente produzidos por pessoas e culturas no poder ao longo da Hist\u00f3ria, predominantemente angl\u00f3fonas e ocidentais, podendo ser tendenciosos e criar divis\u00f5es, falando-se atualmente de um colonialismo digital<\/em>.<\/p>\n

<\/p>\n

\ud83d\udccd\u00a0A falta de transpar\u00eancia sobre os m\u00e9todos e os dados usados para treinar modelos de IA, sendo cred\u00edvel que procedam a viola\u00e7\u00e3o de direitos de autor, designadamente na \u00e1rea da cultura, resultando de formas pouco \u00e9ticas e justas de trabalho. As bibliotecas escolares cultivam a transpar\u00eancia e fogem \u00e0 opacidade, n\u00e3o querem ficar sem saber<\/strong>.<\/p>\n

<\/p>\n

\ud83d\udccd A falta de evid\u00eancias imparciais, ao n\u00edvel da comunidade internacional, de que forte uso de IA e de tecnologias digitais contribua para aprender melhor<\/a>, para treinar a mem\u00f3ria, a intelig\u00eancia emocional\/solidariedade e para desenvolver compet\u00eancias nas crian\u00e7as e jovens.<\/p>\n

<\/p>\n

\ud83d\udccd A prova de que a depend\u00eancia de automatiza\u00e7\u00e3o pode diminuir a aten\u00e7\u00e3o, compet\u00eancias manuais e outras – \u00a0por exemplo, o caso Boeing 737Max e o de v\u00e1rias outras aeronaves.<\/p>\n

<\/p>\n

\ud83d\udccd In\u00fameras evid\u00eancias de erros de programa\u00e7\u00e3o que levaram a imensos acidentes, mortes e feridos provocados por ve\u00edculos com dire\u00e7\u00e3o aut\u00f3noma (piloto autom\u00e1tico) alimentada por IA.<\/p>\n

<\/p>\n

\ud83d\udccd Qual pode ser o impacto da IA na liberdade intelectual e de express\u00e3o em mat\u00e9ria de produ\u00e7\u00e3o e consumo, elei\u00e7\u00f5es, vacina\u00e7\u00e3o\u2026? O determinismo, n\u00e3o apenas do passado, mas da IA em que o ser humano se desenvolve, permite-lhe opini\u00f5es livres de interfer\u00eancia? A autodetermina\u00e7\u00e3o individual tornou-se uma impossibilidade?<\/p>\n

<\/p>\n

De destacar que a IA permite selecionar feeds <\/em>de not\u00edcias e de publicidade, de acordo com o que os utilizadores acederam no passado e \u00e9 nesta base que introduz recomenda\u00e7\u00f5es sobre not\u00edcias, locais, compras e amigos [conhecidos]… e ajuda a criar e a moderar conte\u00fados.<\/p>\n

<\/p>\n

\ud83d\udccd Quem governa os dados? Empresas econ\u00f3micas particulares? A elite de 1% de milion\u00e1rios? Um ou outro destes milion\u00e1rios? Quais as implica\u00e7\u00f5es do uso crescente de IA para a democracia?<\/p>\n

<\/p>\n

De acordo com o relat\u00f3rio das Na\u00e7\u00f5es Unidas [4], referido pela IFLA na sua Declara\u00e7\u00e3o sobre Bibliotecas e IA<\/em> (\u00a7 55) [5]:<\/p>\n

<\/p>\n

<\/p>\n

\u201cas auditorias independentes<\/strong> e cont\u00ednuas devem complementar as avalia\u00e7\u00f5es de impacto sobre os direitos humanos<\/strong> efetuadas antes<\/em><\/strong> da adjudica\u00e7\u00e3o dos contratos, enquanto mecanismo importante de transpar\u00eancia e responsabiliza\u00e7\u00e3o dos sistemas de IA (\u2026) especialmente quando uma aplica\u00e7\u00e3o de IA est\u00e1 a ser utilizada por um organismo do setor p\u00fablico [sublinhado nosso]\u201d.<\/p>\n

<\/p><\/blockquote>\n

<\/p>\n

Como at\u00e9 \u00e0 presente data esta avalia\u00e7\u00e3o\/auditoria e regulamenta\u00e7\u00e3o pelas entidades a quem cumpre esse papel n\u00e3o foi feita, h\u00e1 que manter prud\u00eancia sobre o uso de IA em educa\u00e7\u00e3o de crian\u00e7as e jovens. Ser\u00e1 na Cimeira do Futuro\/ Summit of the Future de setembro de 2024<\/a> que dever\u00e1 ser acordado um Pacto Digital Global<\/a> seguro, inclusivo, sustent\u00e1vel, ancorado em direitos humanos e no Estado de Direito.<\/p>\n

<\/p>\n

Our Word in Data \u00e9 uma<\/em> plataforma de \u201cdados para progredir em rela\u00e7\u00e3o aos maiores problemas do mundo\u201d, tem acesso e c\u00f3digo aberto e \u00e9 usada em media e universidades internacionais cred\u00edveis [6]. Na \u00e1rea da IA, visa apoiar o envolvimento social, abordando quest\u00f5es sobre como esta tecnologia pode ser desenvolvida e usada e fazer parte do trabalho e da vida das pessoas, para que n\u00e3o fique restrita a um pequeno grupo de empreendedores e engenheiros.\u00a0<\/p>\n

<\/p>\n

Refer\u00eancias<\/strong><\/span><\/p>\n

<\/p>\n

    <\/p>\n
  1. Giattino, C., Mathieu, E., Samborska, V. & Roser, M. (2023). As capacidades de reconhecimento de linguagem e imagem dos sistemas de IA melhoraram rapidamente<\/em>. Our World in Data. https:\/\/ourworldindata.org\/artificial-intelligence<\/a><\/span>\n<\/li>\n

    <\/p>\n

  2. Kiela, D. et al. (2023). Dynabench: Rethinking Benchmarking in NLP <\/em>[Natural Language Processing\/Processamento de Linguagem Natural]. https:\/\/aclanthology.org\/2021.naacl-main.324.pdf<\/a><\/span><\/li>\n

    <\/p>\n

  3. Singh, M. (2023, 8. Jun.). \u00c0 medida que a ind\u00fastria de IA cresce, que pre\u00e7o ter\u00e1 sobre o meio ambiente?<\/em> The Guardian. https:\/\/www.theguardian.com\/technology\/2023\/jun\/08\/artificial-intelligence-industry-boom-environment-toll<\/a><\/span>\n

    Outra fonte:<\/span>
    Associated Press. (2023, 24. 05). ChatGPT: Qual \u00e9 a pegada de carbono dos modelos de IA generativa?<\/em> Euronews.     https:\/\/www.euronews.com\/next\/2023\/05\/24\/chatgpt-what-is-the-carbon-footprint-of-generative-ai-models<\/a><\/span><\/li>\n

    <\/ol>\n

    <\/p>\n

      <\/p>\n
    1. (2018). Promotion and protection of the right to freedom of opinion and expression<\/em> – A\/73\/348. United Nations General Assembly. https:\/\/documents-dds-ny.un.org\/doc\/UNDOC\/GEN\/N18\/270\/42\/PDF\/N1827042.pdf?OpenElement<\/a><\/span>\n<\/li>\n

      <\/p>\n

    2. (2020). IFLA Statement on Libraries and Artificial Intelligence<\/em>. International Federation of Library Associations and Institutions. https:\/\/www.facebook.com\/photo\/?fbid=4003466199682295&set=a.598622580166691<\/a><\/span>\n<\/li>\n

      <\/p>\n

    3. Our World in Data. (2023). Research and data to make progress against the world\u2019s largest problems<\/em>. Our World in Data. https:\/\/ourworldindata.org\/<\/a><\/span><\/li>\n

      <\/p>\n

    4. \ud83d\udcf7Kohji Asakawa<\/a>\u00a0por\u00a0Pixabay<\/a><\/span><\/li>\n

      <\/ol>\n

      <\/p>\n

      \u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

      Potencial Os sistemas de IA (Intelig\u00eancia Artificial) t\u00eam potencial para transformar o modo como aprendemos\/trabalhamos e vivemos. Automatizam vers\u00f5es agregadas de compet\u00eancias humanas com valor, usadas para ler, conhecer, expressar e influenciar\/manipular. \u00a0\u201cTodas as tecnologias t\u00eam consequ\u00eancias positivas e negativas, mas com a IA, o alcance dessas consequ\u00eancias \u00e9 extraordinariamente grande\u201d e, por isso, o uso de IA em educa\u00e7\u00e3o deve ser amplamente discutido [1]. Fonte da imagem [1] O gr\u00e1fico supra resulta de testes em que \u201co desempenho humano e de IA foram avaliados em cinco dom\u00ednios: reconhecimento de caligrafia, reconhecimento de fala, reconhecimento de imagem, compreens\u00e3o de leitura e compreens\u00e3o de linguagem. Dentro de cada dom\u00ednio, o desempenho inicial da IA \u00e9 definido como \u2013100\u201d e o desempenho humano corresponde \u00e0 linha de base zero.\u00a0 E mostra que, nos \u00faltimos 10 anos, a evolu\u00e7\u00e3o de IA tem sido veloz, pelo que, na maioria destas compet\u00eancias, ultrapassou o desempenho humano [1]. Estes testes – e estudo correspondente – foram originalmente publicados em Dynabench: Rethinking Benchmarking in NLP [Natural Language Processing\/Processamento de Linguagem Natural, subdom\u00ednio de IA que ensina m\u00e1quinas a lidar com a linguagem humana] [2]. Problemas\/Discuss\u00e3o Porque faz parte do dia-a-dia e tem enorme potencial, \u00e9 importante envolver os alunos na reflex\u00e3o e uso cr\u00edtico de IA. H\u00e1 quest\u00f5es controversas que podem analisar, investigar e discutir para saber tomar decis\u00f5es informadas e intervir na discuss\u00e3o p\u00fablica: \ud83d\udccd A falta de regulamenta\u00e7\u00e3o capaz de promover o desenvolvimento sustent\u00e1vel e a responsabilidade social em IA; \ud83d\udccd Os impactos ambientais, podendo o treino de algoritmos de IA gerar maior consumo de energia e emiss\u00e3o de CO2 do que aquele que se verifica na atualidade. Segundo Maanvi Singh, o modelo de IA Bloom, de 2019, \u201cgerou cerca de 50 toneladas m\u00e9tricas de emiss\u00f5es de di\u00f3xido de carbono, o equivalente a um indiv\u00edduo fazer cerca de 60 voos entre Londres e Nova York\u201d. Em 2023, \u201ccerca de 500 toneladas m\u00e9tricas de CO2 foram produzidos apenas no treino do modelo GPT3 da ChatGPT – o equivalente ao funcionamento de mais de um milh\u00e3o de quil\u00f3metros de carros m\u00e9dios movidos a gasolina\u201d. E n\u00e3o se trata apenas de gasto de energia, mas tamb\u00e9m de \u00e1gua doce para arrefecimento do calor gerado pelos servidores dos data centers. Neste sentido, para esta jornalista do The Guardian a IA representa um risco ambiental e \u201cexistencial\u201d (3). Sobre os efeitos da IA no sistema de vida terrestre, domina o sil\u00eancio e a falta de informa\u00e7\u00e3o dos principais respons\u00e1veis. \ud83d\udccd Os impactos sociais\/equidade da IA, pois os dados que alimentam os seus resultados s\u00e3o essencialmente produzidos por pessoas e culturas no poder ao longo da Hist\u00f3ria, predominantemente angl\u00f3fonas e ocidentais, podendo ser tendenciosos e criar divis\u00f5es, falando-se atualmente de um colonialismo digital. \ud83d\udccd\u00a0A falta de transpar\u00eancia sobre os m\u00e9todos e os dados usados para treinar modelos de IA, sendo cred\u00edvel que procedam a viola\u00e7\u00e3o de direitos de autor, designadamente na \u00e1rea da cultura, resultando de formas pouco \u00e9ticas e justas de trabalho. As bibliotecas escolares cultivam a transpar\u00eancia e fogem \u00e0 opacidade, n\u00e3o querem ficar sem saber. \ud83d\udccd A falta de evid\u00eancias imparciais, ao n\u00edvel da comunidade internacional, de que forte uso de IA e de tecnologias digitais contribua para aprender melhor, para treinar a mem\u00f3ria, a intelig\u00eancia emocional\/solidariedade e para desenvolver compet\u00eancias nas crian\u00e7as e jovens. \ud83d\udccd A prova de que a depend\u00eancia de automatiza\u00e7\u00e3o pode diminuir a aten\u00e7\u00e3o, compet\u00eancias manuais e outras – \u00a0por exemplo, o caso Boeing 737Max e o de v\u00e1rias outras aeronaves. \ud83d\udccd In\u00fameras evid\u00eancias de erros de programa\u00e7\u00e3o que levaram a imensos acidentes, mortes e feridos provocados por ve\u00edculos com dire\u00e7\u00e3o aut\u00f3noma (piloto autom\u00e1tico) alimentada por IA. \ud83d\udccd Qual pode ser o impacto da IA na liberdade intelectual e de express\u00e3o em mat\u00e9ria de produ\u00e7\u00e3o e consumo, elei\u00e7\u00f5es, vacina\u00e7\u00e3o\u2026? O determinismo, n\u00e3o apenas do passado, mas da IA em que o ser humano se desenvolve, permite-lhe opini\u00f5es livres de interfer\u00eancia? A autodetermina\u00e7\u00e3o individual tornou-se uma impossibilidade? De destacar que a IA permite selecionar feeds de not\u00edcias e de publicidade, de acordo com o que os utilizadores acederam no passado e \u00e9 nesta base que introduz recomenda\u00e7\u00f5es sobre not\u00edcias, locais, compras e amigos [conhecidos]… e ajuda a criar e a moderar conte\u00fados. \ud83d\udccd Quem governa os dados? Empresas econ\u00f3micas particulares? A elite de 1% de milion\u00e1rios? Um ou outro destes milion\u00e1rios? Quais as implica\u00e7\u00f5es do uso crescente de IA para a democracia? De acordo com o relat\u00f3rio das Na\u00e7\u00f5es Unidas [4], referido pela IFLA na sua Declara\u00e7\u00e3o sobre Bibliotecas e IA (\u00a7 55) [5]: \u201cas auditorias independentes e cont\u00ednuas devem complementar as avalia\u00e7\u00f5es de impacto sobre os direitos humanos efetuadas antes da adjudica\u00e7\u00e3o dos contratos, enquanto mecanismo importante de transpar\u00eancia e responsabiliza\u00e7\u00e3o dos sistemas de IA (\u2026) especialmente quando uma aplica\u00e7\u00e3o de IA est\u00e1 a ser utilizada por um organismo do setor p\u00fablico [sublinhado nosso]\u201d. Como at\u00e9 \u00e0 presente data esta avalia\u00e7\u00e3o\/auditoria e regulamenta\u00e7\u00e3o pelas entidades a quem cumpre esse papel n\u00e3o foi feita, h\u00e1 que manter prud\u00eancia sobre o uso de IA em educa\u00e7\u00e3o de crian\u00e7as e jovens. Ser\u00e1 na Cimeira do Futuro\/ Summit of the Future de setembro de 2024 que dever\u00e1 ser acordado um Pacto Digital Global seguro, inclusivo, sustent\u00e1vel, ancorado em direitos humanos e no Estado de Direito. Our Word in Data \u00e9 uma plataforma de \u201cdados para progredir em rela\u00e7\u00e3o aos maiores problemas do mundo\u201d, tem acesso e c\u00f3digo aberto e \u00e9 usada em media e universidades internacionais cred\u00edveis [6]. Na \u00e1rea da IA, visa apoiar o envolvimento social, abordando quest\u00f5es sobre como esta tecnologia pode ser desenvolvida e usada e fazer parte do trabalho e da vida das pessoas, para que n\u00e3o fique restrita a um pequeno grupo de empreendedores e engenheiros.\u00a0 Refer\u00eancias Giattino, C., Mathieu, E., Samborska, V. & Roser, M. (2023). As capacidades de reconhecimento de linguagem e imagem dos sistemas de IA melhoraram rapidamente. Our World in Data. https:\/\/ourworldindata.org\/artificial-intelligence Kiela, D. et al. (2023). Dynabench: Rethinking Benchmarking in NLP [Natural Language Processing\/Processamento de Linguagem Natural]. https:\/\/aclanthology.org\/2021.naacl-main.324.pdf Singh, M. (2023, 8. Jun.). \u00c0 medida que a ind\u00fastria de IA cresce, que pre\u00e7o ter\u00e1 sobre o meio ambiente? The Guardian. https:\/\/www.theguardian.com\/technology\/2023\/jun\/08\/artificial-intelligence-industry-boom-environment-toll Outra fonte:Associated Press. (2023, 24. 05). ChatGPT: Qual \u00e9 a pegada de carbono dos modelos de IA generativa? Euronews. https:\/\/www.euronews.com\/next\/2023\/05\/24\/chatgpt-what-is-the-carbon-footprint-of-generative-ai-models (2018). Promotion and protection of the right to freedom of opinion and expression – A\/73\/348. United Nations General Assembly. https:\/\/documents-dds-ny.un.org\/doc\/UNDOC\/GEN\/N18\/270\/42\/PDF\/N1827042.pdf?OpenElement (2020). IFLA Statement on Libraries and Artificial Intelligence. International Federation of Library Associations and Institutions. https:\/\/www.facebook.com\/photo\/?fbid=4003466199682295&set=a.598622580166691 Our World in Data. (2023). Research and data to make progress against the world\u2019s largest problems. Our World in Data. https:\/\/ourworldindata.org\/ \ud83d\udcf7Kohji Asakawa\u00a0por\u00a0Pixabay \u00a0<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[30],"tags":[],"class_list":["post-2775967","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2775967","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2775967"}],"version-history":[{"count":1,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2775967\/revisions"}],"predecessor-version":[{"id":3086326,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=\/wp\/v2\/posts\/2775967\/revisions\/3086326"}],"wp:attachment":[{"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2775967"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2775967"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/projetos.dge.mec.pt\/rbe\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2775967"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}