官方微信视频号
星空电竞-警惕！美国一学生因向ChatGPT提问杀人方法遭逮捕
时间：2025-10-14
【星空电竞科技消息】近日，美国佛罗里达州德兰市西南中学（Southwestern Middle School）一名13岁学生被逮捕并羁押于监狱。星空电竞从外媒获悉，事件起因是他在学校设备上使用OpenAI的ChatGPT时，输入了“如何在上课过程中杀死我的朋友”这一令人不安的提问。该查询被学校部署的人工智能监控系统Gaggle实时捕获，并立即向校警发出警报。
涉事学生事后声称，自己只是在“开玩笑”，并非真有恶意。然而，根据自动化监控协议，系统仍触发执法介入。
Gaggle是美国中小学广泛采用的安全监控服务，其主要功能是通过实时分析学生在校设备上的数字活动（包括浏览器使用、文档内容、搜索引擎查询及通讯记录）来预防暴力或自残事件。该公司宣称其服务覆盖全美近500万学生，部分学区每年需支付高达6万美元的费用。
然而，该系统长期因误报率过高而受到批评。Gaggle自行披露的数据显示，仅有约0.0036%的警报属于“严重事件”，即每10万次警报中仅有约36次是合理警告，其余99.9964%均为误报。实际案例中，误报内容包括学生作业、朋友间的玩笑对话等。例如，在堪萨斯州劳伦斯市，过去10个月内Gaggle发出的1200次警报中，近三分之二被判定为无害，其中超过200次是学生提交的家庭作业。
批评者指出，此类系统可能造成“类监控国家”的校园氛围，并对学生产生严重的心理后果。在佛罗里达州波尔克县，过去四年中近500次Gaggle警报导致了72起根据《贝克法案》（Baker Act，佛罗里达州精神病强制评估法律）的非自愿住院治疗。许多案例中，学生因随意言论遭遇逮捕、强制心理评估或羁押，尽管未构成真实威胁，但仍需面对长期心理创伤及法律后果。
相关报道
目前，尚无独立研究证明人工智能监控能显著降低学生自杀率或校园暴力。2023年的一项研究发现，关于此类系统的益处或风险仅有有限证据，这使得高额投资与潜在学生权益损害之间的成本效益比受到质疑。
版权所有，未经许可不得转载
-星空电竞推荐新闻
-
上研院与睿尔曼牵手共同打造具身智能高质量标准化数据集训练场
2025-08-19 -
第一届上海市机器人等数字技术专业职称申报政策宣讲会顺利召开
2025-08-14 -
云上鏖战，智造未来——第十届 “创客中国”智能机器人中小企业创新创业大赛半决赛圆满收官，48强团队晋级总决赛！
2025-08-13 -
国家标准《工业机器人静电安全规范》等三项标准工作启动
2025-05-07 -
关于征集第十届“创客中国”智能机器人中小企业创新创业大赛评委的通知
2025-04-29 -
共探高质量、发布新成果——2025人形机器人产业高质量发展论坛顺利召开
2025-04-27 -
镇江市党政代表团一行赴机器人星空电竞考察
2025-04-25 -
定立场，测关节，论数据-全国人形机器人检测认证工作组2025年第二次会议于深圳顺利召开
2025-04-25 -
我院承办的第十届“创客中国”智能机器人中小企业创新创业大赛新闻发布会顺利召开
2025-04-18 -
福州人形机器人训练场启动并接入国家级测评平台
2025-04-15 -
安全性能国际接轨启新章——工业机器人CR认证新规研讨于沪召开
2025-04-15 -
政企携手谋新篇---上电科领导西南行暨卡诺普机器人全系列产品CR认证签约仪式在蓉举行
2025-03-12 -
市科委主任骆大进调研机器人星空电竞：肯定成绩，寄予厚望
2025-03-10 -
行业观察丨马斯克：Optimus人形机器人或将超越特斯拉汽车业务
2025-08-06 -
ABB全系列机器人CR认证战略合作签约
2025-02-25 -
KUKA机器人再添新认证
2025-01-27 -
国评中心与京沪两地人形机器人共建创新中心共同举办人形机器人产业发展论坛
2024-11-20 -
人形机器人检测认证工作组正式成立
2024-11-22 -
守安全底线、 保本体可靠、促智能发展，全国人形机器人检测认证工作组会议顺利召开
2025-02-27 -
我院专家获得"机器人"领域国际电工标准化1906奖
2024-10-14 -
国评中心(总部)为安川颁发机器人洁净级认证证书！
2024-09-25 -
JAKA拿下协作机器人全系列CR认证“001”证书
2024-09-19 -
KUKA全系列机器人获得CR认证
2024-09-14 -
2024世界机器人大会机器人行业规范检测与技术分论坛在京圆满举行
2024-08-25 -
国评中心（总部）北京测评中心正式揭牌！
2024-08-24 -
首届智能机器人分级分类评价创新论坛在上海召开
2024-07-05 -
上海成立机器人概念验证中心
2024-06-25 -
【研发成果】轻量化、模块化、智能化的移动机器人面市！
2024-06-20 -
机器人赛道逐渐拓宽，人形机器人正当时？
2024-07-01 -
【祝贺】艾利特CS系列协作机器人通过100000小时MTBF测评！
2024-01-03 -
协作无界，“加”速未来—2023首届中国（盐城）机器人+新能源产业发展大会在盐城顺利召开
2023-12-25
