A IA deveria se converter ao Islã?

Recentemente, o primeiro-ministro da Malásia, Anwar Ibrahim, ganhou as manchetes quando instou os jovens programadores de TI e profissionais de tecnologia a incorporarem valores islâmicos nos sistemas de inteligência artificial (IA), argumentando que isso garantiria que a IA serviria a humanidade de uma forma mais ética e justa. Desde que assumiu o cargo, no final de 2022, Anwar fez do desenvolvimento da IA ​​e da tecnologia na Malásia uma prioridade da agenda económica do país. Num mundo cada vez mais impulsionado pela inteligência artificial, a noção de incorporar princípios religiosos nos algoritmos que moldam as nossas vidas é uma ideia simultaneamente intrigante e profundamente preocupante. Embora a intenção de Anwar possa ser criar uma bússola moral para a IA, a sugestão levanta questões fundamentais sobre os perigos de imbuir a inteligência artificial com qualquer forma de dogma religioso ou ideológico – ainda mais quando a Malásia está lentamente a aumentar o seu controlo sobre os meios de comunicação social e a reforçar a censura. sob o pretexto da harmonia social.

Para compreender os riscos, é essencial compreender primeiro o que significa imbuir a IA de um conjunto de princípios orientadores. A inteligência artificial, na sua forma mais simples, é uma ferramenta – uma ferramenta avançada, mas mesmo assim uma ferramenta. Os sistemas de IA, também conhecidos como grandes modelos de linguagem, aprendem com grandes quantidades de dados e podem ser programados para seguir conjuntos específicos de regras. No entanto, ao dar à IA um quadro religioso como o Islão, os desenvolvedores não estão apenas a programar um conjunto de directrizes. Estão a impor um sistema de crenças que pode ter consequências profundas e até incontroláveis. Este é um conceito que merece uma reflexão profunda, pois é paralelo aos perigos de incorporar ideologias políticas na IA, um cenário que já viu sinais perturbadores de realização.

Os perigos da IA ​​religiosa

O cerne do problema reside na ideia de que o dogma religioso é inerentemente subjetivo e muitas vezes contraditório. O Islão, por exemplo, como todas as grandes religiões, é interpretado de várias maneiras em diferentes culturas e escolas de pensamento. Num mundo onde o conflito religioso é frequentemente uma fonte de profunda divisão e violência, este tipo de variabilidade na bússola moral da IA ​​pode ter implicações perigosas e de longo alcance.

Consideremos o cenário arrepiante retratado em “The Handmaid’s Tale”, o romance distópico de Margaret Atwood, no qual um regime teocrático governa uma sociedade baseada numa interpretação distorcida e selectiva da Bíblia. O que começa como uma tentativa de aplicar a moralidade religiosa torna-se uma ferramenta de opressão, justificando o controlo dos corpos das mulheres para a sua subjugação política. Agora imagine um sistema de IA semelhante, enraizado numa interpretação estrita de textos religiosos. O que acontece quando tal IA é responsável pela saúde, justiça criminal ou educação? Poderia justificar práticas discriminatórias ou absolutismo moral em nome da vontade divina?

Poderíamos argumentar que a IA deveria aderir a algum quadro ético para orientar as suas ações. No entanto, a questão permanece: deveria esse quadro ser religioso? A IA ética, que dá prioridade à justiça, à transparência e à responsabilização, representa uma abordagem muito mais matizada. No entanto, os sistemas de IA não devem funcionar como guardiões da salvação espiritual.

Ao mesmo tempo, infundir religião na IA representa um abandono da agência moral, o que de facto ameaça a maior parte da concepção teológica monoteísta dos humanos como seres morais, como reflexos de um poder moral superior. Se os humanos delegarem avaliações éticas aos algoritmos de IA, poderão renunciar à sua obrigação de se envolverem numa deliberação e discernimento cuidadosos.

Os perigos da ideologia política na IA

Se o ângulo religioso é preocupante, incorporar ideologias políticas na IA é igualmente preocupante. Nos últimos anos, vimos como as forças políticas procuram moldar a narrativa em torno da IA. O governo chinês, por exemplo, está a pressionar por sistemas de IA que priorizem a harmonia social e a agenda política do Estado, utilizando a IA para monitorizar e controlar os seus cidadãos. Na mesma linha, a ascensão da IA ​​nos países ocidentais, e particularmente nos EUA, apresenta os seus próprios riscos. Pense em sistemas de IA que possam refletir e reforçar agendas autoritárias, moldando as suas decisões de acordo com um conjunto restrito de valores políticos.

A própria essência da IA ​​– a sua capacidade de processar grandes quantidades de dados e tomar decisões de formas que podem parecer opacas para os utilizadores humanos – pode ser facilmente manipulada para fins ideológicos. Se os sistemas de IA forem programados para dar prioridade a certas ideologias políticas em detrimento de outras, poderão funcionar como ferramentas de opressão ou coerção. Uma IA controlada pelo Estado, por exemplo, poderia tomar decisões que minam as liberdades básicas, tal como uma IA com motivação religiosa poderia marginalizar os não-crentes. Quando o algoritmo se alinha com ideologias políticas ou religiosas, deixa de ser uma ferramenta neutra e transforma-se num aplicador partidário de crenças específicas.

Este tipo de IA representa uma ameaça fundamental para a sociedade democrática, onde o pluralismo, o debate e os direitos individuais são valorizados. Se não for controlada, poderá reforçar o status quo e reprimir a dissidência. A história fornece inúmeros exemplos de como a ideologia, seja ela religiosa ou política, tem sido usada para justificar a opressão. A IA, como a próxima fronteira no desenvolvimento tecnológico, não deveria ser convidada a repetir esse erro.

O anúncio de Anwar é ainda mais preocupante num contexto malaio que assistiu ao aumento do controlo estatal dos meios de comunicação social e ao aumento do poder das autoridades religiosas. O governo de Anwar já mostrou as fraquezas da sua estratégia de apelar aos votos conservadores malaios, uma vez que os malaios permanecem em grande parte leais à oposição. Pelo contrário, o impulso de Anwar para a agenda religiosa é um impedimento para os seus próprios apoiantes e pode pôr em perigo os frágeis direitos das minorias religiosas da Malásia.

Um apelo à IA ética e não religiosa

O apelo do Primeiro-Ministro Anwar para integrar os valores islâmicos na IA pode ser uma tentativa mal pensada de introduzir clareza moral numa tecnologia nova e poderosa. No entanto, a realidade é que a religião é uma estrutura inadequada para a ética da IA. A IA deve ser programada com uma bússola ética mais ampla – que seja pluralista, flexível e baseada em valores humanos partilhados, como equidade, justiça e igualdade. O futuro da IA ​​não deve ser um campo de batalha para ideologias religiosas ou políticas, mas um domínio de colaboração, criatividade e raciocínio ético que respeite a diversidade da experiência humana – tanto na Malásia como no mundo como um todo.