Com a crescente quantidade de conteúdo gerado por inteligência artificial (IA) na internet, identificar textos criados exclusivamente por IAs tem se tornado um desafio. Para auxiliar nessa tarefa, um desenvolvedor criou um aplicativo open source de Detector de conteúdo AI utilizando AWS Bedrock e Llama 3.1 405B. A ferramenta visa analisar e classificar a autenticidade de textos, oferecendo uma solução eficaz para diferenciar conteúdo humano de conteúdo gerado por IA.
App Open Source para Detecção de Conteúdo AI
O desenvolvedor, preocupado com a proliferação de textos gerados por IA, criou um aplicativo de código aberto para detectar esses conteúdos. A ferramenta utiliza AWS Bedrock e Llama 3.1 405B, demonstrando como um prompt template eficaz pode ajudar a identificar padrões típicos de textos gerados por IA.
O aplicativo está disponível no GitHub. Para utilizá-lo, basta clonar o repositório, instalar as dependências e executar o arquivo main.py com o Streamlit. Veja os comandos:
git clone https://github.com/omerbsezer/AI-Content-Detector
pip install -r requirements.txt
python -m streamlit run .\main.py
O aplicativo funciona com o serviço AWS Bedrock – Llama 3.1 405B e oferece:
- Uma pontuação de conteúdo gerado por IA.
- Análise e explicação detalhada de quanto do texto inserido foi gerado por IA.
Para testar a eficácia do aplicativo, o desenvolvedor o utilizou em textos gerados tanto por humanos quanto por IA, com resultados promissores. Esse tipo de ferramenta pode ser muito útil, sabia que até mesmo a Nvidia e Utah juntos em iniciativa para aprimorar educação em IA?
Análise de Textos Gerados por Humanos
O aplicativo atribuiu uma pontuação baixa para textos criados por humanos, indicando que ele reconhece a autenticidade da escrita humana. Além da pontuação, o app detalha os padrões identificados no texto, mostrando que a análise vai além de uma simples classificação.
Para verificar o funcionamento na prática, o desenvolvedor disponibilizou um GIF/vídeo demonstrativo da análise de um texto gerado por um humano:
Resultados com Textos Gerados por IA
Em contrapartida, textos criados inteiramente por IA receberam pontuações elevadas, confirmando a capacidade do aplicativo em detectar conteúdo sintético. O app também detalhou os padrões identificados nesses textos, como a utilização de frases genéricas e estruturas repetitivas.
Assim como nos testes com textos humanos, há um GIF/vídeo que demonstra a análise de um texto gerado por IA:
Como Separar Conteúdo Humano de Conteúdo Gerado por AI?
A combinação da análise automatizada com a avaliação da comunidade pode ser uma forma eficaz de identificar e filtrar conteúdos gerados exclusivamente por IA. Uma possível solução seria adotar um sistema de duas etapas:
Passo 1: Permitir que os usuários sinalizem conteúdos suspeitos de serem gerados por IA. Se um número suficiente de pessoas concordar, o conteúdo avança para a próxima etapa.
Passo 2: Submeter o conteúdo sinalizado ao aplicativo de Detector de conteúdo AI. Se a pontuação for superior a 50%, o autor é notificado com os padrões detectados, e o artigo pode ser removido ou ter sua visibilidade reduzida.
A iniciativa do desenvolvedor pode inspirar plataformas a adotarem medidas para garantir a autenticidade do conteúdo publicado, combatendo a disseminação de informações geradas por IA. Aliás, você sabe como usar o Google Encontre Meu Dispositivo para localizar seu Android?
Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.
Via dev.to