No estado de Iowa, nos Estados Unidos, o ChatGPT, uma IA de texto muito popular atualmente, está sendo usado por docentes em um distrito escolar para banir livros. Isso ocorre devido a uma nova lei estadual que determina que os livros disponíveis nas bibliotecas escolares sejam apropriados à idade do leitor e não apresentem descrições ou representações visuais de atos sexuais.
O caso específico ocorreu no Distrito Escolar da Comunidade de Mason City, onde os docentes alegaram não ter tempo suficiente para ler todos os livros e decidir quais seriam adequados para os alunos. Por isso, eles utilizaram uma IA identificada como ChatGPT, especificamente o modelo GPT-4 da OpenAI.
A avaliação feita pela IA era bastante simplista: perguntava-se se um determinado livro continha uma descrição ou representação visual de um ato sexual. Caso a resposta fosse positiva, o livro seria marcado para censura e banido das bibliotecas escolares.
Essa abordagem recebeu críticas, pois não se sabe ao certo como o algoritmo foi treinado pela OpenAI (empresa responsável pelo ChatGPT), nem se foi alimentado com o texto integral dos livros ou apenas com avaliações parciais feitas pelos usuários. Além disso, especialistas apontam que é possível ocorrerem falsos positivos nesse tipo de avaliação.
Após a polêmica gerada pelo uso do ChatGPT para banir livros nas escolas, o distrito esclareceu que compilou listas de livros frequentemente contestados por várias fontes para criar uma lista principal de livros a serem revisados. Essa lista foi analisada pela IA para determinar se havia representações de atos sexuais. Com base nessa revisão, 19 livros foram considerados inadequados e serão removidos das bibliotecas escolares.
É importante ressaltar que o problema não está na IA em si, mas sim na intenção dos usuários. Qualquer ferramenta, incluindo um algoritmo de IA, pode ser usada de forma abusiva para benefício próprio ou para impor valores pessoais. O uso indevido da tecnologia é um tema que o papa Francisco tem alertado constantemente.
Além disso, especialistas destacam que é preciso ter cuidado com os resultados falsos positivos e considerar a integridade do algoritmo utilizado. No caso do ChatGPT, não se sabe exatamente como ele foi alimentado e treinado, o que levanta questões sobre a eficácia desse método.
Por fim, é interessante notar que, se a lei fosse seguida à risca no estado de Iowa, a Bíblia seria o livro principal a ser banido devido ao seu conteúdo considerado inadequado para menores de idade. No entanto, muitas vezes as partes mais controversas desse livro são ignoradas pelos leitores. Além disso, ninguém quis submeter a Bíblia ao ChatGPT para verificar seu conteúdo.
Em suma, o caso envolvendo o uso do ChatGPT para banir livros nas escolas mostra como uma ferramenta pode ser utilizada de maneira questionável quando há falta de tempo ou critérios adequados por parte dos profissionais responsáveis pelas decisões. É fundamental discutir e estabelecer limites éticos para o uso de IA em situações delicadas como essa.
| Resumo da Notícia |
|---|
| No estado de Iowa, nos Estados Unidos, docentes utilizam o ChatGPT, uma IA de texto, para banir livros em escolas devido a nova lei estadual. |
| O ChatGPT, especificamente o modelo GPT-4 da OpenAI, é utilizado para avaliar se os livros contêm descrições ou representações visuais de atos sexuais. |
| O uso do ChatGPT para banir livros recebeu críticas devido à falta de transparência sobre o treinamento do algoritmo e a possibilidade de falsos positivos. |
| Após revisão, 19 livros foram considerados inadequados e serão removidos das bibliotecas escolares. |
| O caso destaca a importância de estabelecer limites éticos para o uso de IA em situações delicadas e a necessidade de considerar a integridade do algoritmo utilizado. |
Com informações do site Meio Bit.
