Cardoso: Além do gênio da lâmpada – a IA é um espelho do seu treinamento

Por Fabio Henrique Cardoso*

Em vários setores, inclusive o de telecomunicações, a Inteligência Artificial (IA), especialmente a IA generativa, tem sido vista como um “gênio da lâmpada” que pode solucionar todos os problemas das empresas, prometendo uma revolução com automação, eficiência operacional e insights estratégicos partindo apenas de um comando inicial. A ideia de que a IA funciona como uma espécie de “gênio digital” impulsionou uma corrida global pela inovação, levando lideranças a investirem rapidamente na tecnologia. No entanto, muitos desses investimentos foram feitos sem uma análise cuidadosa do ambiente organizacional, ignorando adversidades e lacunas em governança, o que pode comprometer tanto a eficiência quanto a segurança das operações.

Publicidade

Essa visão quase mítica da IA tem levado empresas em diferentes setores a acelerarem investimentos na tecnologia. Segundo o Future of Jobs Report 2023, do Fórum Econômico Mundial, mais de 85% das 803 empresas entrevistadas em diversos setores ao redor do mundo destacaram a adoção de novas tecnologias como principal pilar para impulsionar a transformação digital. O relatório também aponta que as organizações já enxergam que o sucesso dessa jornada depende de uma aplicação mais ampla de princípios ESG, com ênfase em políticas de governança, que se revelam cruciais para alcançar os níveis de inovação e sustentabilidade almejados.

Apesar de toda a mística que gira ao redor da IA ser uma tecnologia quase onipotente, existem algumas barreiras estruturais e vulnerabilidades significativas que precisam ser levadas em consideração para que sua implementação seja estratégica e esteja alinhada com os objetivos da organização.

Quando falamos sobre os riscos para as organizações, existem três pilares principais que precisam ser priorizados para garantir que a implementação da inteligência artificial não ofereça mais ameaças do que benefícios. São eles:

Governança de dados

Os modelos de IA, como qualquer sistema automatizado, são tão eficientes quanto a quantidade e qualidade de dados que os alimentam. No entanto, mesmo com políticas claras, se a cultura da empresa não está embasada em pilares de governança, a utilização da IA sem planejamento pode tornar o uso da tecnologia enviesado, representando uma ameaça para a organização. Essa preocupação ganha ainda mais relevância diante do perigo de um vazamento acidental de dados, muitas vezes causado por integrações inadequadas entre bases de conhecimento e sistemas de IA. Imagine, por exemplo, um drive corporativo desorganizado contendo senhas ou informações sensíveis sendo conectado a uma IA gratuita de uso público. Por isso, o simples compartilhamento desse tipo de conteúdo pode expor a organização a grandes vulnerabilidades, desde prejuízos financeiros até danos irreparáveis à reputação.

Esse cenário reforça a importância da governança de dados armazenados. Não basta apenas acumular informações, é essencial garantir que estejam organizadas, protegidas e acessíveis de forma controlada. Com uma estrutura de governança bem definida, as empresas podem mitigar riscos, fortalecer sua segurança e aproveitar ao máximo os benefícios que a IA tem a oferecer, sem comprometer a integridade de seus dados.

Viés da base de dados

O viés da base de dados é uma ameaça latente que pode comprometer a credibilidade e a justiça das decisões tomadas com base em inteligência artificial. Modelos treinados com dados enviesados perpetuam preconceitos sociais, culturais e econômicos, afetando o consumidor final e todos os níveis da organização. Em setores como telecomunicações, onde os sistemas automatizados desempenham um papel crucial, a falta de curadoria nos dados pode gerar consequências amplas, como discriminação no atendimento ou decisões equivocadas sobre investimentos. Para evitar esses impactos, as empresas devem tratar os dados como ativos estratégicos, garantindo que estejam balanceados, auditados e livres de padrões que possam reforçar desigualdades estruturais.

Insegurança jurídica

O uso de ferramentas de IA sem validação adequada é como andar na corda bamba: o risco de infringir leis de compliance e direitos autorais é enorme. No setor de telecom, onde tecnologias avançadas estão sendo integradas a sistemas legados, a falta de critérios claros pode levar a processos judiciais, multas caras e a quebra de confiança entre clientes e parceiros. Por exemplo, ao usar modelos generativos treinados em dados externos, como Copilots, é possível incorporar conteúdos protegidos por direitos autorais, expondo a organização a litígios. A solução está na escolha criteriosa das ferramentas, priorizando aquelas que seguem normas regulatórias e que não foram treinadas em dados externos disponíveis da internet sem a devida curadoria dos direitos autorais. Também é sempre recomendado que a empresa desenvolva e treine seus próprios Copilots, alinhados às suas necessidades específicas, e estabeleça uma cultura de conformidade que permeie todos os níveis da empresa.

O simples funciona

Uma analogia que pode ser utilizada para ilustrar o uso ineficaz da inteligência artificial é a ideia de “contratar uma orquestra para tocar uma nota”. Diversas empresas, ao buscarem soluções inovadoras – muitas vezes influenciadas pela novas tecnologias do mercado -, acabam aplicando ferramentas avançadas e desnecessariamente complexas para solucionar problemas simples. Modelos básicos de machine learning, por exemplo, são geralmente suficientes para resolver desafios operacionais de maneira eficiente sem exigir grandes investimentos em infraestrutura computacional.

Nem sempre a solução mais avançada é a mais eficiente. Não faz sentido “contratar uma orquestra para tocar uma nota” quando um único instrumento bem afinado poderia resolver o problema com muito menos custo e complexidade. O segredo está em aplicar a solução certa para a necessidade real, valorizando abordagens práticas e eficientes. Afinal, o simples, muitas vezes, é o que funciona melhor.

Por isso, afirmo que a inteligência artificial é, sem dúvida, uma ferramenta transformadora, mas está longe de ser uma solução universal. Seu sucesso depende de uma abordagem estratégica que combine políticas sólidas, dados bem estruturados e uma visão consciente, capaz de equilibrar o potencial humano com os avanços tecnológicos. No setor de telecomunicações, quem dominar essa combinação terá não apenas vantagem, mas a liderança no mercado.

* Fabio Henrique Cardoso é analista de sistemas da Icaro Tech