As políticas de saúde alimentadas pela IA estão a privar os necessitados num dos países mais pobres do mundo

Quênia estava prometendo acesso mais amplo a cuidados de saúde mais acessíveis. Mas uma nova investigação revelou que o seu sistema baseado em algoritmos está a dificultar a vida das pessoas que deveria ajudar mais. De acordo com reportagem de O Guardião, África sem censurae Relatórios do Farolo novo sistema da Autoridade Social de Saúde do Quénia está a utilizar um método preditivo algoritmo de aprendizado de máquina para estimar quanto as pessoas deveriam pagar pelo seguro de saúde público.

O sistema foi lançado pela primeira vez em Outubro de 2024 como parte da promessa do Presidente William Ruto de expandir o acesso aos cuidados de saúde à grande força de trabalho informal do Quénia.

Como o algoritmo está prejudicando os quenianos

O problema é como o sistema calcula o que as pessoas podem pagar. O sistema SHA do Quénia utiliza testes de procuração, que é um método que estima o rendimento com base em detalhes do agregado familiar, tais como materiais de telhado, casas de banho, gado, tamanho da família e outras condições de vida. Esta investigação revelou que o sistema tem sobrestimado os rendimentos das famílias mais pobres, ao mesmo tempo que os subestima para os cidadãos ricos.

Um voluntário da SHA descreveu ter visitado famílias em Nairobi e observado pessoas que já lutavam para comprar alimentos receberem prémios muito acima das suas possibilidades. Alguns enfrentaram encargos equivalentes a 10% a 20% dos seus pequenos rendimentos, de acordo com o relatório.

Quando um projeto de lei bloqueia o tratamento

As consequências são reais e a situação parece terrível. Os quenianos sem seguro privado e que não podem pagar os seus prémios de SHA correm o risco de serem afastados dos centros de saúde ou de receberem contas hospitalares elevadas. O relatório cita relatos de pessoas gravemente doentes que perderam tratamento porque o sistema dizia que deviam mais do que podiam pagar. Uma mãe solteira disse que a sua contribuição mensal foi fixada em 3.500 xelins quenianos, enquanto outras relataram grandes aumentos em relação ao que pagavam anteriormente no antigo sistema. Portanto, a nova política está custando vidas.

Embora Ruto tenha descrito o sistema como alimentado por IA, o relatório observa que ele não usa IA generativa no estilo ChatGPT. Utiliza aprendizagem automática preditiva, construída em torno de uma ferramenta política de décadas que tem sido criticada há muito tempo por identificar incorretamente quem se qualifica para receber ajuda. Muitos consideraram este sistema falho e injusto mesmo antes de ser implantado.

Mais de 20 milhões de pessoas estão registadas no SHA, mas apenas cerca de 5 milhões pagam regularmente os seus prémios. Os hospitais também registam grandes défices, uma vez que os reembolsos continuam por pagar. Este é o perigo dos sistemas algorítmicos de bem-estar social.