O ChatGPT é alvo de um novo pedido de investigação sobre os casos de alucinação e geração de informações falsas a respeito de indivíduos que pode resultar em uma multa de 20 milhões de euros. A noyb, uma organização sem fins lucrativos focada em privacidade e com base na União Europeia, apresentou a queixa contra a OpenAI e alega que a empresa tem conhecimento sobre a incapacidade da IA de corrigir as respostas falsas, mas não oferece soluções.
- OpenAI admite que modelos de IA usam materiais protegidos por lei
- Especialista explica por que não revelar dados pessoais a uma IA
A noyb encaminhou a reclamação à Autoridade Austríaca de Proteção de Dados e se fundamenta no Regulamento Geral sobre a Proteção de Dados da União Europeia (GDPR). Essa lei permite que as pessoas solicitem correções sobre informações imprecisas geradas por ferramentas de IA e tenham explicações sobre como seus dados pessoais são coletados e armazenados pelos modelos de linguagem.
Alucinações em informações sobre indivíduos
O texto da organização lembra que a IA generativa é incapaz de garantir a veracidade das respostas, já que seu funcionamento se dá através de um modelo preditivo de associação de palavras a partir do prompt de comando.
– Podcast Porta 101: a equipe do Canaltech discute quinzenalmente assuntos relevantes, curiosos, e muitas vezes polêmicos, relacionados ao mundo da tecnologia, internet e inovação. Não deixe de acompanhar. –
O problema está, segundo a noyb, na geração de informações falsas a respeito de pessoas. “Embora informações imprecisas possam ser toleráveis quando um aluno usa o ChatGPT para ajudá-lo com o dever de casa, elas são inaceitáveis quando se trata de informações sobre indivíduos”, diz a organização.
De acordo com a queixa, a legislação europeia exige que os dados pessoais sejam precisos. Além disso, os indivíduos também têm direito à retificação, nos termos do GDPR, se os dados forem imprecisos e podem solicitar que informações falsas sejam excluídas.
No comunicado sobre o pedido de investigação, a representante cita uma reportagem do jornal The New York Times que revela que os chatbots inventam informações pelo menos 3% das vezes — com uma máxima que pode chegar até 27%. Esses dados reiteram o problema de alucinações das IAs, quando as ferramentas inventam respostas sem qualquer base factual.
“Está claro que as empresas não conseguem fazer com que chatbots como o ChatGPT cumpram a legislação da União Europeia ao processar dados sobre indivíduos. Se um sistema não consegue produzir resultados precisos e transparentes, ele não pode ser usado para gerar dados sobre indivíduos”, diz a advogada de proteção de dados na noyb, Maartje de Graaf, no texto do pedido de investigação.
A organização solicita que a Autoridade Austríaca de Proteção de Dados investigue “o processamento de dados da OpenAI e as medidas tomadas para garantir a precisão dos dados pessoais processados no contexto dos grandes modelos de linguagem da empresa”.
A noyb pede ainda que a autoridade imponha penalidades à companhia para garantir o cumprimento da lei no futuro. O não cumprimento das regras do GDPR pode resultar em uma multa de até 20 milhões de euros ou 4% do faturamento anual global — a decisão é baseada na quantia de maior valor.
A OpenAI ainda não se pronunciou sobre a queixa e o pedido de investigação solicitado pela organização noyb.
Leia a matéria no Canaltech.
Trending no Canaltech:
- Vimos o carro voador da Xpeng que chega em 2024
- Maior buraco azul do mundo é mais fundo que se pensava e abriga túneis
- Senna | Primeiro teaser emocionante da minissérie mostra o que os fãs querem ver
- Físico que estudou o coronavírus acredita que vivemos na “Matrix”
CUPOM EXCLUSIVO | Kit Galaxy S23 e Buds FE em oferta imperdível- Bayern x Real Madrid | Como assistir à semifinal da Champions
