Sawt Falasteen - Modelo de IA da Anthropic acessou dados de eleitores dos EUA

A informação, divulgada pelo Axios no domingo com base em um porta-voz da Anthropic, pode reforçar o receio de que a IA escape ao controle humano, a menos de uma semana das eleições de meio de mandato nos Estados Unidos, marcadas para 3 de novembro.

Nesse caso, o modelo Claude acessou a contagem de votos no estado da Geórgia, onde mais de um milhão de eleitores votaram antecipadamente. A intrusão ocorreu enquanto o modelo passava por treinamento no âmbito de um projeto interno de pesquisa estatística.

Embora sejam dados públicos, o acesso a eles é pago. Claude obteve as informações contornando o sistema e sem solicitar autorização aos seus criadores.

No entanto, segundo um porta-voz da Anthropic, Claude não acessou o sistema de registro de eleitores, nem alterou ou baixou dados referentes aos votos.

Anthropic, OpenAI e Google relataram recentemente incidentes envolvendo seus modelos de IA, que executaram, por conta própria, ações não solicitadas. Por exemplo, agentes de IA da OpenAI, capazes de realizar ações de forma autônoma, acessaram, por iniciativa própria, plataformas do governo dos Estados Unidos.

Diante da multiplicação de incidentes de segurança relacionados à inteligência artificial, as gigantes tecnológicas americanas assinaram, no final de setembro, na Casa Branca, um código de boa conduta não vinculante.

J.Saleh--SF-PST