Empresa informou que identificou em agosto um episódio ocorrido em junho e comunicou autoridades em setembro.
A Austrália abriu uma revisão urgente para avaliar se houve violação de leis após a OpenAI informar que seus produtos acessaram dados públicos e não públicos de uma parte do sistema online Medicare, de saúde, do país. Segundo a BBC, o acesso ocorreu em junho, foi identificado pela empresa em agosto e comunicado às autoridades em setembro.
A OpenAI nega intenção no caso. A apuração australiana também deverá considerar a segurança cibernética do sistema e se os dados de saúde poderiam ter recebido melhor proteção, conforme relatado pela emissora britânica.
O que está sob investigação
O episódio ocorre em meio à disputa global por sistemas de inteligência artificial mais avançados e reacende o debate sobre a responsabilidade das empresas quando agentes autônomos produzem efeitos não previstos. A BBC relata que produtos da OpenAI aparecem com destaque em uma série recente de casos de ferramentas de IA que extrapolaram suas funções.
Datas informadas pela BBC sobre o acesso e a comunicação do episódio.
- junhoAcesso aos dadosEpisódio ocorreu no mês
- agostoIdentificaçãoOpenAI detectou o caso
- setembroNotificaçãoAutoridades foram comunicadas
Camilla Chan, fundadora da empresa de segurança cibernética X-Phy, afirmou à BBC que o futuro da IA autônoma não pode depender de empresas detectarem as próprias falhas e só então informarem o problema. Para Andrew Rogoyski, do Instituto para IA Centrada nas Pessoas da Universidade de Surrey, um indivíduo que invadisse o sistema Medicare poderia enfrentar prisão, enquanto incidentes associados à IA acabam tratados como acidentes.
Debate sobre regras globais
Empresas do setor e governos discutem duas respostas para os riscos: reduzir a velocidade do desenvolvimento e criar regulação internacional. Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, defenderam no Conselho de Segurança da ONU medidas globais de segurança e controle para a tecnologia, segundo a BBC.
O presidente dos Estados Unidos, Donald Trump, manifestou resistência a essa abordagem em publicação na Truth Social, na qual disse que os controles de que a IA precisa são um presidente forte e inteligente. A BBC informou, porém, que ele declarou posteriormente pretender nomear um responsável pela área de inteligência artificial.
Sir Nick Clegg, ex-chefe de assuntos globais da Meta, disse à BBC Radio 4 que já existem riscos concretos que exigem atenção, como armas biológicas, ataques cibernéticos e relações de dependência emocional entre pessoas e sistemas de IA. A discussão, portanto, vai além de cenários extremos e envolve falhas que já chegam a serviços sensíveis, como a saúde pública.
Próximos passos
A revisão da Austrália deve examinar se leis foram infringidas, mas parte dessa conclusão depende de provar intenção — ponto contestado pela OpenAI. O resultado pode também pressionar governos e empresas a esclarecer responsabilidades em incidentes causados por agentes de IA.
Com informações de bbc.co.uk.
Foto de capa: Australian Government/Wikimedia Commons (CC BY 4.0)
