A inteligência artificial é uma ferramenta poderosa: pode agilizar processos, encurtar prazos e distâncias, mas também carrega uma série de desafios que são amplificados nos países onde ainda não há regras que normatizem seu uso, como o Brasil. Além da preocupação com a disseminação de deepfakes; violação dos dados pessoais e dos direitos a propriedade intelectual, especialistas destacam a necessidade de se considerar o impacto dessa tecnologia na perpetuação de preconceitos. O especialista em TI e CTO da BrevenLaw, Ademir Mazer, explica que os algoritmos são criados e treinados com base em um grande conjunto de dados que podem conter vieses históricos ou culturais, já que são alimentados por pessoas. “As grandes empresas de IA já adotam algumas travas que impedem, por exemplo, o
tratamento de assuntos sensíveis, mas está nas mãos das pessoas orientar os algoritmos com base em aspectos morais, legais e éticos. Isso é indispensável porque as ferramentas tomam decisão através da aprendizagem do que foi dado a elas, se a base de dados não tem qualidade e reproduz preconceitos e informações falsas, a IA reproduzirá esses equívocos”, comenta.
A advogada Maria Heloisa Chiaverini de Melo, mestre em Ciências Sociais e especialista em Compliance, Governança e Direito Digital, entende que um dos principais desafios na implementação de sistemas de IA é o risco social de amplificar discriminações e de reforçar discursos de ódio e intolerância. “Mais do que nunca, a Governança se torna indispensável. Além de um treinamento ético e legal para os colaboradores de uma empresa, é preciso ter uma equipe efetivamente diversa: isso permite identificar e corrigir esses vieses nos estágios iniciais, promovendo sistemas mais justos e equitativos. Pois, da mesma forma que perpetua preconceitos, a IA também pode contribuir para incentivar a diversidade”, comenta.
Nenhum comentário:
Postar um comentário