MENSAGEM DO PAPA FRANCISCO – INTELIGÊNCIA ARTIFICIAL E PAZ

DESTAQUE

No início do novo ano, em sua mensagem para o DIA MUNDIAL DA PAZ, o Papa expressa seus votos de paz a todas as pessoas, dirigindo-se ao Povo de Deus, às nações, aos Chefes de Estado, representantes religiosos e civis, e a todos os habitantes do mundo. Neste ano, a mensagem destaca a importância da inteligência humana, a qual, conforme a Sagrada Escritura, foi concedida por Deus para o desenvolvimento de sabedoria, inteligência e capacidade no trabalho.

O Papa reconhece os avanços significativos da ciência e tecnologia, agradecendo por curas e melhorias na qualidade de vida, mas alerta para os riscos associados a esses progressos. Ele destaca a revolução digital, enfatizando oportunidades e preocupações, especialmente em relação aos impactos na justiça e harmonia social.

O foco do discurso, então, volta-se para a INTELIGÊNCIA ARTIFICIAL (IA). O Papa enfatiza que o desenvolvimento da IA não é neutro e depende das decisões éticas dos desenvolvedores. Ele destaca a diversidade de formas de inteligência artificial, chamando a atenção para os riscos e desafios antropológicos, educacionais, sociais e políticos associados a essas tecnologias.

A seguir, apresentamos um resumo desta mensagem.

1. O PROGRESSO DA CIÊNCIA E DA TECNOLOGIA COMO CAMINHO PARA A PAZ

O Papa ressalta que a inteligência humana, um dom de Deus, reflete a dignidade conferida pelo Criador ao fazer os seres humanos à Sua imagem e semelhança. Essa inteligência, ao se expressar na ciência e tecnologia, destaca-se como uma ferramenta poderosa para o progresso e desenvolvimento humano. No entanto, a mensagem alerta para a importância de reconhecer que o uso dessa inteligência deve ser orientado pelos princípios éticos e morais, em consonância com a vontade divina de aperfeiçoar a criação e promover a paz entre os povos.

Ao mencionar o Concílio Vaticano II, o Papa reforça a ideia de que os esforços humanos para melhorar a vida e a sociedade, através do trabalho e engenho, estão alinhados com o plano divino. No entanto, ele também destaca a necessidade de cautela diante dos avanços notáveis, especialmente nas tecnologias digitais, que apresentam oportunidades entusiasmantes, mas também riscos significativos.

A mensagem do Papa é um apelo à reflexão sobre as implicações éticas das inovações tecnológicas, questionando os efeitos a longo prazo sobre a vida das pessoas, a estabilidade social e a paz global. Ele destaca a responsabilidade de considerar não apenas os benefícios imediatos, mas também os potenciais perigos que as novas tecnologias podem acarretar, enfatizando a importância de um diálogo ético e social sobre essas questões prementes. Essa abordagem crítica busca equilibrar o progresso técnico com a preservação dos valores fundamentais da humanidade e do planeta.

2. O FUTURO DA INTELIGÊNCIA ARTIFICIAL: PROMESSAS E RISCOS

O Papa expressa preocupações sobre os impactos da revolução digital, destacando as transformações sociais provocadas pela informática e tecnologias digitais. Ele alerta para o poder dos algoritmos em extrair dados, controlando hábitos pessoais e relacionamentos sem consentimento, comprometendo a liberdade de escolha. Salienta que a pesquisa científica e inovações tecnológicas refletem valores culturais, enfatizando a dimensão ética inerente.

O Papa aborda a INTELIGÊNCIA ARTIFICIAL (IA), enfatizando sua diversidade e a necessidade de compreendê-la como uma “galáxia de realidades diversas”. Destaca que o desenvolvimento da IA não garante automaticamente benefícios, exigindo ações responsáveis e respeito aos valores humanos fundamentais, como inclusão, transparência e privacidade.

Além disso, destaca a importância de instituições para examinar questões éticas relacionadas à IA e proteger os direitos das pessoas. O Papa enfatiza que o progresso tecnológico deve promover a paz, justiça e bem comum, e critica avanços que agravam desigualdades e conflitos.

Ele reconhece os desafios antropológicos, educacionais, sociais e políticos da IA, enfatiza a necessidade de gerenciar as transformações digitais para salvaguardar os direitos humanos e respeitar instituições e leis. Conclui afirmando que a inteligência artificial deve servir ao potencial humano, complementando nossas aspirações mais elevadas, e não competir com elas.

3. A TECNOLOGIA DO FUTURO: MÁQUINAS QUE APRENDEM SOZINHAS

O Papa expressou preocupações profundas sobre o impacto da inteligência artificial (IA) na sociedade, destacando que, embora esteja em estágios iniciais, a IA já está provocando notáveis transformações nas culturas e comportamentos sociais. Ele enfatizou que questões relacionadas à aprendizagem automática e profunda transcendem os domínios tecnológicos, questionando a compreensão da vida humana, dos processos fundamentais do conhecimento e da mente em busca da verdade.

Ao abordar as capacidades da IA, o Papa alertou para a falta de garantia de confiabilidade, especialmente quando dispositivos podem gerar informações aparentemente plausíveis, mas infundadas, contribuindo para a propagação de notícias falsas e desconfiança nos meios de comunicação. Além disso, ele destacou riscos éticos, como violação de privacidade, posse inadequada de dados, propriedade intelectual e discriminação.

O pontífice expressou preocupação com o uso indevido da IA, como sua participação em campanhas de desinformação, interferência em processos eleitorais, criação de uma sociedade de vigilância e controle, exclusão digital e um aumento do individualismo desconectado da coletividade. Ele alertou que tais fatores podem alimentar conflitos e representar obstáculos significativos para a paz.

4. O SENTIDO DO LIMITE, NO PARADIGMA TECNOCRÁTICO

O Papa expressa a complexidade e vastidão do mundo, afirmando que a mente humana, mesmo com algoritmos avançados, não pode completamente compreender e classificar a realidade. Destaca a limitação das previsões algorítmicas, ressaltando que nem tudo pode ser previsto ou calculado. Adverte sobre a falta de imparcialidade nas inteligências artificiais, que podem replicar preconceitos. Salienta que, embora máquinas inteligentes sejam eficientes, sua finalidade e significado dependem dos valores humanos.

O Papa alerta para o risco de os critérios de escolha nas decisões algorítmicas tornarem-se obscuros, escondendo a responsabilidade dos humanos. Critica o viés tecnocrático, que prioriza eficiência em detrimento de valores sociais. Destaca a importância do “sentido do limite“, advertindo contra a busca excessiva por controle, alertando que na obsessão por ultrapassar limites, o ser humano pode perder o controle sobre si mesmo. Admite que aceitar os limites é crucial para alcançar a plenitude, contrastando com uma abordagem tecnocrática que poderia resultar em desigualdades extremas e acumulação desproporcional de conhecimento e riqueza, ameaçando a democracia e a paz social.

5. TEMAS QUENTES PARA A ÉTICA

O Papa expressou preocupações sobre o crescente papel da inteligência artificial (IA) na tomada de decisões críticas, como concessão de empréstimos, seleção de empregados, decisões judiciais e assistência social. Ele alertou para a falta de diversidade nos sistemas de IA, que pode resultar em preconceitos e discriminação, causando não apenas injustiças individuais, mas também contribuindo para desigualdades sociais em cascata. O Papa destacou a capacidade da IA de influenciar comportamentos individuais através de opções predeterminadas e sistemas de regulação, exigindo uma responsabilidade legal dos produtores, empregadores e autoridades governamentais.

Além disso, ele criticou o uso invasivo da vigilância e sistemas de crédito social, alertando para possíveis classificações inadequadas entre cidadãos e conflitos de poder. O Papa sublinhou a importância de preservar a dignidade humana, rejeitando a redução da identidade pessoal a conjuntos de dados e defendendo a não submissão dos direitos humanos aos algoritmos. Ele também abordou as preocupações trabalhistas, advertindo sobre a rápida substituição de empregos humanos por automação e instando a comunidade internacional a priorizar o respeito pela dignidade dos trabalhadores, a estabilidade do emprego e a equidade salarial diante da crescente penetração da tecnologia nos locais de trabalho.

6. TRANSFORMAREMOS AS ESPADAS EM RELHAS DE ARADO?

O Papa expressa preocupações éticas sobre o setor de armamentos, destacando o impacto negativo das operações militares remotas e a pesquisa em armas autônomas usando inteligência artificial (IA). Ele adverte contra a falta de responsabilidade moral em sistemas automáticos e destaca a necessidade de supervisão humana. Além disso, alerta para os riscos de armas sofisticadas nas mãos erradas, como facilitadoras de terrorismo e desestabilização de governos legítimos. O Pontífice argumenta que as novas tecnologias não devem contribuir para o comércio de armas, mas sim para o desenvolvimento humano integral.

Num tom positivo, ele sugere que a IA pode promover inovações benéficas na agricultura, educação e cultura, elevando o padrão de vida global e fortalecendo a fraternidade humana. O Papa enfatiza a necessidade de uma abordagem ética desde a fase inicial de pesquisa até a comercialização, destacando a “algor-ética” como uma orientação fundamental. Ele apela a um diálogo interdisciplinar para um desenvolvimento ético dos algoritmos, onde os valores devem guiar todas as etapas. O Papa destaca o papel essencial das instituições educativas e dos tomadores de decisão na promoção da ética da projetação, integrando considerações éticas em todas as fases do desenvolvimento tecnológico.

7. DESAFIOS PARA A EDUCAÇÃO

O Papa destaca a importância de desenvolver tecnologias que respeitem a dignidade humana, especialmente no contexto educacional e cultural. Ele reconhece que as tecnologias digitais ampliaram as possibilidades de comunicação, mas ressalta a necessidade de uma reflexão constante sobre o impacto dessas tecnologias nas relações humanas. Com a geração jovem imersa em ambientes tecnológicos, questiona os métodos de ensino e destaca a importância da educação para o uso de inteligência artificial, priorizando a promoção do pensamento crítico.

O Papa destaca a urgência de desenvolver a capacidade de discernimento no uso de dados e conteúdo online, particularmente diante da proliferação de desinformação e notícias falsas. Ele convoca instituições educacionais, universidades e sociedades científicas a auxiliar estudantes e profissionais na compreensão dos aspectos sociais e éticos do progresso tecnológico. Além disso, alerta para a necessidade de abordar não apenas a desinformação, mas também os “medos ancestrais” que podem se esconder por trás das novas tecnologias.

O Papa expressa preocupação com a tentação de criar “MUROS CULTURAIS” que impedem o encontro e a coexistência pacífica entre diferentes culturas e pessoas. Ele conclama a superar esse desafio, promovendo uma cultura de diálogo e fraternidade em meio aos avanços tecnológicos.

8. DESAFIOS PARA O DESENVOLVIMENTO DO DIREITO INTERNACIONAL

O Papa expressa a necessidade de uma abordagem global na regulamentação da inteligência artificial (IA), destacando que, além da responsabilidade dos Estados soberanos em regulá-la internamente, as Organizações Internacionais desempenham um papel crucial na obtenção de acordos multilaterais. Ele insta a Comunidade das Nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e uso da IA. O objetivo da regulamentação não é apenas prevenir más aplicações, mas também incentivar boas práticas, promovendo abordagens inovadoras e facilitando iniciativas individuais e coletivas.

O Papa enfatiza que, ao buscar modelos normativos éticos para tecnologias digitais, é essencial identificar valores humanos como base para os esforços da sociedade na formulação, adoção e aplicação de quadros legislativos necessários. Destaca a importância de considerar questões mais profundas sobre a existência humana, a proteção dos direitos fundamentais, a busca da justiça e da paz ao elaborar diretrizes éticas para a produção de IA. Ele destaca a necessidade de incluir as vozes de todas as partes interessadas nos debates sobre regulamentação, incluindo os pobres e marginalizados que muitas vezes são ignorados nos processos de decisão globais. O processo de discernimento ético e jurídico é visto como uma oportunidade valiosa para refletir sobre o papel da tecnologia na vida individual e comunitária, visando contribuir para um mundo mais equitativo e humano.

A mensagem do Papa oferece uma análise profunda e multifacetada das implicações éticas da inteligência artificial e das tecnologias digitais. Ele chama a atenção para desafios críticos e insta a uma abordagem ética no desenvolvimento e uso dessas tecnologias em benefício da humanidade. Além disso, o texto destaca a responsabilidade ética na criação e no uso da inteligência artificial, enfatizando valores humanos fundamentais, dignidade, justiça e paz na busca pelo progresso tecnológico.

Se desejar, você pode acessar o texto completo da mensagem do Papa no link “MENSAGEM DO SANTO PADRE FRANCISCO PARA A CELEBRAÇÃO DO DIA MUNDIAL DA PAZ“.