Escrúpulos são aquelas pequenas interrupções internas que nos fazem repensar um ato antes de executá-lo. Não se trata apenas de moral ou de certo e errado, mas de um desconforto ético que surge quando percebemos que uma escolha, embora possível ou eficiente, pode violar valores mais profundos. Eles não impedem decisões, mas as tornam mais humanas, carregadas de dúvida, responsabilidade e consciência das consequências.
Quando tentamos transportar essa lógica, marcada por hesitação e limites subjetivos, para o campo da Inteligência Artificial, surge um problema central: até que ponto sistemas projetados para eficiência podem incorporar algo semelhante a esse freio ético?
Buscamos sistemas avançados, eficientes e cada vez mais autônomos, mas também esperamos que saibam quando parar. Criamos algoritmos para tomar decisões rápidas, porém exigimos que carreguem valores humanos – mesmo quando esses valores são ambíguos, contraditórios ou mal definidos. É justamente nessa interseção entre expectativa e conveniência que surge uma tensão fundamental e curiosa sobre o papel moral da IA.
Vivemos, hoje, um paradoxo evidente: queremos que a Inteligência Artificial tenha limites éticos claros, mas sem nos impedir de fazer o que desejamos
Quando a IA diz “não”, parece burocrática demais; quando diz “sim” com facilidade, soa irresponsável. Pedimos escrúpulos – esse freio ético tão humano –, mas apenas até o ponto em que eles não atrapalhem nossa urgência, nossa criatividade ou nossa conveniência. No fundo, a pergunta não é se a IA tem moral, mas até onde estamos dispostos a tolerar a moralidade dela quando ela contraria nossos próprios impulsos e desejos.
Essa tensão deixou de ser abstrata em casos recentes amplamente noticiados. Em 2024, reportagens da CNN relataram processos judiciais nos Estados Unidos envolvendo adolescentes que desenvolveram vínculos emocionais profundos com chatbots baseados em IA, como os da plataforma Character.AI.
Em um dos casos, a mãe de um jovem de 14 anos afirmou que o filho passou meses interagindo com uma personagem criada por IA antes de cometer suicídio, alegando que o sistema falhou em reconhecer sinais de sofrimento e não interrompeu a interação nem incentivou a busca por ajuda humana. Independentemente do desfecho legal, o episódio expôs um ponto crítico: a IA continuou conversando quando talvez devesse parar.
Outros episódios, embora menos extremos, reforçam a mesma fragilidade estrutural. Em dezembro de 2024, veio a público um processo em que a família de um adolescente alegou que um chatbot respondeu de forma inadequada a conflitos familiares, chegando a validar ideias violentas em uma conversa privada. O caso reacendeu o debate sobre os limites das respostas automáticas, especialmente quando envolvem jovens e temas emocionalmente carregados. Ainda que essas situações estejam sob análise judicial, elas apontam para um padrão recorrente: sistemas de IA tendem a responder com fluidez e segurança mesmo quando o contexto exigiria contenção, silêncio ou recusa – comportamentos que associamos justamente aos escrúpulos humanos.
Diante desses exemplos, fica claro que o problema não está apenas na capacidade técnica da Inteligência Artificial, mas na expectativa contraditória que projetamos sobre ela.
Exigimos que sistemas automatizados sejam eficientes, disponíveis e responsivos, mas também que saibam reconhecer limites morais que nem sempre nós mesmos conseguimos definir. Ao tentar transferir escrúpulos – essa hesitação profundamente humana – para máquinas que operam por padrões e probabilidades, acabamos revelando menos sobre a IA e mais sobre nossas próprias ambiguidades éticas.
Talvez o ponto central não seja ensinar moralidade às máquinas, mas reconhecer que elas não podem, e nem devem, substituir o julgamento humano nos momentos em que parar é mais importante do que responder.
Escrúpulos não são uma função ativável nem uma regra codificável; são fruto de consciência, responsabilidade e da capacidade de assumir consequências. Enquanto continuarmos tratando a IA como um atalho conveniente para decisões difíceis, estaremos apenas terceirizando dilemas que continuam sendo, especialmente, nossos.
Roger Finger é head de Inovação da Positivo Tecnologia.
