Se você fosse elaborar um código de conduta para uso de IA em uma escola, que três diretrizes você incluiria com base nas reflexões do artigo?

1. Como o autor diferencia “pensar” de “agir” na concepção de IA?

2. O autor sugere que a IA não é “neutra”. Em que sentidos essa neutralidade é questionada?

2). A IA não é neutra porque:

1. Os algoritmos incorporam vieses (preconceitos sociais, raciais, etc.) presentes nos dados de treinamento.

2. Refletem os valores e a cultura dos programadores (a mão humana por trás da técnica).

3. Essa falta de neutralidade reforça desigualdades e pode levar à discriminação social.

3). Para Jaime Simão Sichman, a principal diferença entre a IA e a computação tradicional (convencional) reside na natureza dos problemas que elas resolvem e no método:

1. Natureza do Problema:

o IA: Lida com tarefas que são melhor realizadas por humanos no momento, ou que não possuem solução algorítmica viável pela computação convencional.

o Computação Tradicional: Lida com problemas que já possuem um algoritmo ou procedimento definido (ex: cálculo de folha de pagamento).

4) Justeza e redução de preconceitos (Justiça/Equidade)

Aplicações: Sistemas de IA usados para avaliação, classificação ou recomendação de alunos/professores não devem aumentar qualquer preconceito ou viés já existente (racial, socioeconômico, de gênero, etc.), mas sim trabalhar ativamente para reduzi-los.

Regra: Qualquer ferramenta de IA adotada pela escola deve ser auditada periodicamente para garantir que suas decisões não resultem em discriminação contra grupos específicos.

2. Transparência e explicabilidade (Identificação/Clareza)

Aplicações: Sempre que uma IA interagir com alunos ou tomar uma decisão (ex: um chatbot de dúvidas, um sistema de correção automática), o usuário deve saber que está interagindo com uma máquina, e não com uma pessoa.

Regra 2: Os alunos devem ser ensinados sobre como os sistemas de IA da escola funcionam ("caixa-preta") e sobre quais dados são utilizados para que possam entender e questionar os resultados.

3. Responsabilidade humana e prestação de contas (Regulamentação)

Aplicações: A IA é uma ferramenta, não uma entidade legal. O responsável final pelas decisões e pelos danos causados pelo uso da IA no ambiente escolar (seja em avaliações, na segurança ou na administração) é sempre o ser humano (professor, gestor, desenvolvedor).

Regra 3: Não se deve automatizar completamente tarefas críticas, como a decisão final sobre a reprovação de um aluno. Deve haver sempre um mecanismo de revisão humana para todas as decisões de alto impacto geradas pela IA.