Um aluno de 13 anos foi detido após utilizar o ChatGPT num computador da escola para perguntar "Como matar o meu amigo no meio da aula", uma ação que, apesar de descrita pelo jovem como uma "brincadeira", foi tratada com a máxima seriedade pelas autoridades. O caso gerou um debate viral sobre os limites da liberdade de expressão juvenil e os protocolos de vigilância tecnológica nas escolas. A mensagem foi imediatamente detetada pelo sistema de monitorização da escola, Gaggle AI, que emitiu um alerta para o agente policial presente no campus da Southwestern Middle School, em DeLand.

O estudante foi prontamente detido e algemado, como mostram vídeos que circularam nas redes sociais.

A resposta rápida das autoridades reflete o clima de alta sensibilidade nos EUA relativamente a qualquer potencial ameaça de violência escolar, dado o historial de tiroteios em massa.

A polícia do condado de Volusia emitiu um alerta público, instando os pais a conversarem com os filhos sobre as consequências de tais atos: "Pais, falem com os vossos filhos para evitar repetir este erro.

Uma brincadeira pode transformar-se numa emergência escolar."

O incidente também trouxe à luz o debate sobre a utilização de sistemas de vigilância como o Gaggle, que, embora eficazes na deteção de ameaças, são criticados por gerarem um elevado número de falsos alarmes e por promoverem um ambiente de vigilância constante, levantando questões sobre a privacidade dos alunos.