☕ IA na educação vira disputa no Congresso

#47: Especialistas indicam diferentes caminhos para lidar com tecnologias de inteligência artificial, dentro e fora da sala de aula

A popularização da inteligência artificial (IA) é tema recente e, por isso, estudos sobre seu impacto na educação ainda são bastante novos. Entre as questões levantadas estão a regulação da IA e seus efeitos nas dinâmicas formativas, que vão desde as que acontecem na sala de aula, na relação entre professor e aluno até o âmbito da segurança, privacidade e vieses dos dados que alimentam tecnologias dessa natureza.   

Ao mesmo tempo em que a regulação é um dos pontos mais decisivos para o futuro da IA no Brasil, é também o que causa maior dúvida em educadores e especialistas. Por isso, em sua retomada, em parceria com a Pearson, a Intervalo vai iniciar uma série falando sobre inteligência artificial e educação brasileira. Nesta edição, você vai entender melhor o panorama atual da regulação de IA no Brasil e suas implicações específicas no campo da educação. 

Entre os especialistas, há consenso quanto à importância da regulação para diferentes setores, inclusive o da educação. O que muda, no entanto, são os caminhos e a urgência para se chegar até lá. O principal dispositivo para isso até aqui é o projeto de Lei 2.338/2023, popularmente conhecido como “PL da IA”. 

Como anda o PL 2.338/2023, sobre regulação da IA no Brasil? 

Depois de uma sequência de adiamentos, o PL entrará em nova fase e deve ser retomado e votado nas próximas semanas. O texto, que tramita na Comissão Temporária sobre Inteligência Artificial (CTIA), está em discussão e pode sofrer alterações antes da votação final. Sendo aprovada, seguirá para o plenário do Senado e para a Câmara dos Deputados.

Por seu alto grau de impacto nos diferentes setores, o PL vem sendo arena de disputas políticas entre parlamentares e especialistas, pela suposta proximidade do projeto com assuntos como o combate às fake news e à polarização política.

Também geram divergência tópicos envolvendo a remuneração pelo uso de obras com direitos autorais em ferramentas de IA e a abordagem de riscos, que, segundo alguns representantes da indústria de tecnologia, travaria o desenvolvimento da IA no país.

Desconhecimento e falta de contexto

Para Seiji Isotani, presidente da Sociedade Internacional de Inteligência Artificial na Educação (IAEID Society), “estamos tentando regular o que o Brasil ainda não conhece direito e ainda não faz direito. Precisamos pensar mais em entender e trabalhar essa tecnologia para resolver problemas reais e, a partir dessas experiências, começar a regular”.

Nesse sentido, seria fundamental “antes de regular, saber qual caminho o Brasil deseja seguir”, defende Celina Bottino, diretora de projetos do Instituto Tecnologia e Sociedade, (ITS). A impressão é parecida com a de Guilherme Cintra, diretor de Inovação e Tecnologia da Fundação Lemann. Para ele, a regulação tem sido conduzida de forma descontextualizada no Brasil, já que espelha excessivamente o modelo europeu.

“Sempre vamos desenhar políticas olhando para diferentes países e realidades para construir a nossa, mas a conjuntura europeia é muito diferente da brasileira. Existe uma série de adaptações necessárias. Por mais que tenhamos pessoas fazendo coisas incríveis no Brasil, não estamos no mesmo nível de desenvolvimento de tecnologia [da Europa]. Nossa cultura e nosso contexto regulatório são diferentes."

Outro fator problemático relacionado à regulação é uma possível inibição da inovação local, segundo Cintra. “Na educação, isso é particularmente problemático, porque tem componentes muito fortes de dependência de contexto. Assim, se as únicas corporações que conseguem criar novas soluções educacionais vêm de fora – porque têm recursos para lidar com a carga jurídica necessária –, perdemos a capacidade de contextualizar [soluções educacionais] para o nível local”, explica. 

Debate pouco plural 

Além de contextualizada, a discussão da regulação precisa ser plural, já que impacta diferentes setores da sociedade. Visando a fomentar a participação cidadã nos rumos da IA no país, o ITS criou a consulta pública “O que queremos da IA?”.

“A regulação está sendo liderada por um grupo não muito diverso de atores. Embora o grupo [que compõe a comissão] tenha feito algumas consultas públicas e pedido contribuições, o senador Eduardo Gomes [relator do PL] não disponibilizou essas informações”, lembra Bottino, que conduz um pedido de Lei de Acesso à Informação do ITS para acessar os dados.

Potencial maior do que risco 

Um dos riscos da IA na educação frequentemente apontado por especialistas é a influência dos vieses sociais presentes na base de dados de tecnologias de IA. Nesse sentido, ainda sem uma regulação, a qualidade dos dados que alimentam as bases das inteligências artificiais tende a ser menos controlada, o que de fato traz riscos aos usuários. 

“Há ainda questões de natureza ética, políticas de acesso e privacidade dos mais variados tipos e a participação efetiva de diferentes comunidades que precisam ser melhorados na proposta de regulação atual”, sinaliza Gi Santos, gestora de Inovação, LinkedIn Top Voice e especialista em IA e educação, para quem a regulação é indiscutível. Ainda assim, a especialista acredita que a IA tem, sim, potencial para diminuir algumas barreiras de longa data, envolvendo pesquisa científica, formação, criação de novas bases de dados. 

Ainda reticente sobre a regulação da IA nos moldes do projeto de lei atual, Seiji Isotani entende que o caminho deve ser investir na criação de um arcabouço regulatório que estimule o uso da tecnologia para resolver problemas sociais no campo da educação, principalmente em regiões mais carentes. “Faz muito mais sentido do que tentar regular a IA por medo de que algo de errado vá acontecer”, afirma. 

Para Celina Bottino, os riscos não são maiores que os possíveis benefícios, que para ela são pouco discutidos no Brasil.

“Acho que está se falando pouco, inclusive, sobre quais os planos do Brasil para usar IA de forma propositiva e que realmente ajude a endereçar as lacunas que temos. Uma delas é a falta de profissionais individualizados para cada aluno, quando uma IA pode fazer o papel de um tutor individual, funcionando como ferramenta de assistência e não substitutiva, é claro”. 

Boas práticas

Mesmo que o Brasil ainda não tenha aprovado a regulação da IA, já existem diretrizes normativas, como manuais internacionais da Unesco, e ferramentas legais, como a Lei Geral de Proteção de Dados (LGPD) e a própria Constituição Federal, que podem ser usados para  orientar o uso da IA na educação e mitigar alguns riscos envolvendo segurança, privacidade de dados e vieses sociais. “Não existe no Brasil terra sem lei, em que uma regulação precisa ser colocada de pé na correria. O que falta é discussão para que [tais ferramentas legais já existentes] sejam de fato aderentes e adequadas à realidade brasileira”, afirma Bottino. 

Em julho deste ano, o Ministério da Ciência e Tecnologia lançou o Plano Nacional de Inteligência Artificial, com previsão de R$23 bilhões de investimento até 2028. O documento, batizado ‘IA para Todos’ ainda será validado pelo Palácio do Planalto antes de entrar em vigor.

Diferente de um Projeto de Lei, que estabelece diretrizes legais, tem descrição mais detalhada e específica, um plano é um documento estratégico, que define objetivos, metas e ações para o desenvolvimento e uso da IA em um determinado período. 

“Por isso, é tão importante uma participação ampla da sociedade, pois um Projeto de Lei não é algo em que se mexa tão facilmente. Há uma camada jurídica muito mais amarrada. A Lei Geral de Proteção de Dados (LGPD) e o Marco Civil da Internet são exemplos de regulações que já impactam o uso da IA no Brasil. Idealmente, o plano e a regulação deveriam andar juntos”, explica Gi Santos. 

---

Relatórios mostra como anda regulação da IA pelo mundo 
Publicado pela organização internacional Access Now, este mapeamento apresenta o status de regulação da IA em diferentes países da América Latina. Com dados de 2023, a análise confirma o que já tem sido percebido também no Brasil: a discussão ainda é incipiente na maioria dos países sul americanos e quase todas se baseiam em regulações inspiradas ou semelhantes ao Artificial Intelligence Act (AI Act) da União Europeia - o que pode ser bom pela consistência de tais modelos, mas ruim ao desconsiderar o contexto social específico dos países da América do Sul.

Já este levantamento, publicado em abril deste ano, pelo ITS mostra os principais modelos de regulação de IA existentes e em uso hoje. O objetivo é facilitar a compreensão das nuances envolvidas nas discussões sobre o tema no Brasil, buscando expandir os horizontes de análise para além da União Europeia. São identificados, ao todo, três macro-modelos de regulação. 

Guia da Unesco mostra diretrizes para o uso de IA na educação  
Publicada em junho deste ano, o documento é a primeira orientação global da Unesco sobre inteligência artificial generativa (IAGen) na educação. Nele, você encontra ações imediatas, no planejamento de políticas de longo prazo e no desenvolvimento da capacidade humana visando uma abordagem humanizada para o uso das novas tecnologias.

Lupa lança game online “IAgora?”
Desenvolvido pela Lupa, em parceria com a Politize! e o AppCívico!, o jogo simula o ambiente de uma campanha eleitoral para treinar usuários a identificar e combater técnicas de desinformação ligadas à Inteligência Artificial. Mais de 10 mil pessoas já jogaram o game, que está disponível gratuitamente no site.

Nota: Este conteúdo foi produzido pela Lupa com o apoio da Pearson, empresa de aprendizagem com clientes em quase 200 países. Para saber mais sobre a parceria, clique aqui.