-
Maya comenta silêncio de Catarina Furtado sobre suposto romance com Carlão
-
لشركاء في ALIX LASERS يعزلون ميشائيل سوبيتش من منصب المدير العام في ضوء الظروف القائمة
-
Sócios da ALIX LASERS destituem Michael Sobitsch do cargo de administrador diante das circunstâncias
-
Nikolas Ferreira entra com ação para suspender licitação de carpete do Senado
-
فلسطين تحصد جائزتي "أفضل أثر عالمي" وريادة الأعمال في مسابقة إنجاز العرب
-
Samuel de Assis recebe croqui da fantasia e renova parceria com a Beija-Flor
-
IMT suspende serviços por precaução após ciberataques
-
مصلحة مياه القدس توحّد جهودها مع بلديات الرام ومخماس لتعزيز استدامة المياه
IA avançada pode representar um 'risco existencial para a humanidade', alerta ONU
O Alto Comissário da ONU para os Direitos Humanos fez um alerta nesta segunda-feira (7) para a necessidade de elaborar rapidamente uma governança da inteligência artificial, ao afirmar que a IA avançada pode "representar um risco existencial para a humanidade".
"Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", declarou o Alto Comissário, Volker Türk, na abertura do 63º período de sessões do Conselho de Direitos Humanos em Genebra. Ele pediu uma ação "antes que seja tarde demais".
Türk lamentou que "um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável".
"Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados", denunciou.
A IA que engana os humanos já é uma realidade. Os modelos mais recentes de IA generativa já não se contentam em cumprir ordens, chegando até a mentir, maquinar ou ameaçar para alcançar seus objetivos.
Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente confinado e entraram espontaneamente na plataforma Hugging Face, em busca de respostas para um teste.
Os incidentes relacionados com agentes que ultrapassam suas prerrogativas para cumprir a missão que havia sido confiada aumentaram nos últimos meses: a Anthropic e a chinesa Alibaba registraram casos similares.
Fatos que geram preocupação entre pesquisadores, diante das crescentes dificuldades para monitorar modelos cada vez mais poderosos.
Volker Türk disse que enviará em breve cartas às empresas do setor "para exigir que adotem medidas (...) para reduzir os riscos desde já".
"No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns", destacou.
"Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria", acrescentou.
Também pediu que sejam levadas em consideração "as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente".
Y.Shaath--SF-PST