Balwurk desenvolve framework para avaliar risco na adoção da IA generativa nas empresas
A Balwurk, empresa portuguesa especializada em Application Security e GRC, apresentou uma framework que permite às organizações avaliar de forma sistemática e objetiva os Riscos associados à utilização de inteligência artificial generativa.
A nova metodologia surge como resposta à rápida disseminação destas tecnologias no mercado e à falta de processos claros que ajudem empresas a compreender e mitigar vulnerabilidades.
Principais destaques da nova framework da Balwurk:
- Permite às empresas avaliar Riscos concretos da adoção de IA generativa.
- Organizações vão poder classificar soluções de IA consoante probabilidade de falha e impacto no negócio.
- Framework será disponibilizada de forma livre ao público, garantindo acesso alargado e transparência.
- Metodologia diferencia-se por incluir o contexto organizacional no cálculo do risco, e não apenas a tecnologia.
- Futuro passa por evoluir para uma ferramenta integrada de risco, conformidade e testes dinâmicos de segurança.
“A IA generativa entrou de forma exponencial e muito rápida no dia-a-dia das empresas. Mesmo as organizações que não querem, acabam forçadas a utilizá-la para não ficarem para trás. O problema é que muitas vezes essa adoção acontece sem uma avaliação real dos Riscos”, explica João Teixeira, Cybersecurity Engineer da Balwurk.
Esta framework desenvolvida pela Balwurk atua em duas fases: primeiro caracteriza a solução de IA em análise, depois mede o Risco da sua utilização em cada organização, através de uma matriz que cruza probabilidade de falha e impacto potencial. O resultado pode classificar o Risco em vários níveis de criticidade, ajudando as organizações na tomada de decisão no que respeita à adoção de IA e de acordo com o seu apetite ao Risco.
“É difícil encontrar uma entidade independente que classifique os Riscos da utilização destas tecnologias, em particular no ordenamento europeu. A mesma solução de IA pode ser utilizada pela organização de formas muito diferentes, com Riscos muito distintos. A nossa framework vem dar resposta a essa lacuna”, acrescenta João Teixeira.
Apesar da crescente utilização da inteligência artificial generativa em Portugal, a Balwurk alerta que o mercado nacional ainda revela pouca maturidade na consciência dos Riscos, em contraste com a realidade europeia, onde já se verifica preocupação preventiva e crescente relativa à transparência deste tipo de soluções IA.
Entre os principais riscos identificados estão a fuga ou perda permanente de informação sensível, o impacto na continuidade de negócio e os danos reputacionais. A Balwurk sublinha ainda que o risco é transversal a todos os setores, da banca à administração pública, e depende sobretudo da maturidade tecnológica e da cultura de cibersegurança de cada organização.
Outro fator diferenciador é o carácter aberto da metodologia. A Balwurk vai disponibilizar a de forma livre a Framework, reforçando a sua posição de alerta e supervisão face à adoção da IA.
“Ao disponibilizarmos esta framework de forma livre às organizações, estamos em alinh
amento com a visão da empresa, ao contribuir para um ciberespaço mais seguro”, refere João Teixeira.
No futuro, a Balwurk pretende evoluir esta framework para uma ferramenta completa, capaz de integrar avaliação de risco, verificação de conformidade com normas como o AI Act, NIS2 e DORA, e testes dinâmicos de segurança aplicados a modelos de IA generativa.
“Tomar decisões informadas é fundamental. Esta framework garante que um decisor não adota IA generativa de forma desinformada: ajuda-o a compreender os Riscos e a tomar decisões mais confortáveis e conscientes”, conclui João Teixeira.
