Sawt Falasteen - IA e saúde, uma combinação de sucesso... ou não, alerta a OMS

Em um documento publicado nesta quinta-feira (18), a Organização Mundial da Saúde analisou os perigos e benefícios do uso de grandes modelos multimodais (LMM, na sigla em inglês), um tipo de tecnologia de IA generativa em ascensão na área da saúde.

Esses LMM podem utilizar vários tipos de dados, incluindo texto, imagens e vídeos, e gerar resultados que não se limitam ao tipo de dados inseridos no algoritmo.

A organização define cinco áreas que poderiam utilizar a tecnologia: triagem, para responder, por exemplo, a solicitações por escrito dos pacientes; pesquisa científica e desenvolvimento de medicamentos; para fins de educação na medicina e enfermagem; tarefas administrativas; e uso por parte dos pacientes, por exemplo, para analisar sintomas.

Por trás do grande potencial, entretanto, a OMS adverte que os LMM podem fornecer resultados falsos, imprecisos, tendenciosos ou incompletos.

"À medida que os LMM são cada vez mais utilizados na assistência médica e na medicina, os erros, o mau uso e, portanto, os prejuízos para as pessoas são inevitáveis", afirmou a OMS.

- Gigantes tecnológicos -

O documento também apresentou novas diretrizes sobre ética e gerenciamento dos LMM, com mais de 40 recomendações para governos, empresas de tecnologia e planos de saúde sobre como se beneficiar dessa tecnologia de maneira segura.

"As tecnologias de IA generativa têm o potencial de melhorar os cuidados de saúde, mas apenas se aqueles que desenvolvem, regulam e usam essas tecnologias identificarem e levarem plenamente em consideração os riscos associados", afirma o cientista-chefe da OMS, Jeremy Farrar.

A organização pede a criação de normas de responsabilidade para "garantir que os usuários prejudicados por um LMM sejam devidamente indenizados ou tenham outras formas de recurso".

A organização também questionou se os LMM estariam cumprindo as regulamentações existentes, especialmente em relação à proteção de dados.

Além disso, o fato de que os grandes modelos multimodais são frequentemente desenvolvidos e implementados por gigantes tecnológicos é preocupante, segundo a OMS, que recomenda a participação de profissionais de saúde e pacientes no processo.

Outro ponto mencionado pela OMS foi a vulnerabilidade desses sistemas frente os riscos de cibersegurança, que poderiam comprometer as informações dos pacientes e até mesmo a segurança da assistência médica.

Por fim, a organização conclui que os governos deveriam encarregar as autoridades reguladoras de aprovar o uso dos LMM na assistência médica, e pede auditorias para avaliar o impacto dessa tecnologia.

K.AbuDahab--SF-PST