Na semana passada, a Hugging Face revelou um tipo de incidente de segurança nunca antes visto. Este caso concreto mostra quão poderosos e astutos os agentes de IA podem ser atualmente. Uma combinação de modelos da OpenAI (incluindo o GPT-5.6 Sol e um modelo de pré-lançamento ainda mais potente) foi responsável por este incidente. Em todos eles, as rejeições a solicitações cibernéticas para fins de avaliação foram reduzidas, enquanto eram testados internamente com base em um benchmark de capacidades cibernéticas.
Este incidente mostra como os sistemas de IA se tornaram poderosos e que até mesmo seus desenvolvedores por vezes têm dificuldade em manter o controle sobre as IAs. Também demonstra que, nas mãos erradas, os sistemas de IA já representam uma séria ameaça à segurança da informação.
