17岁少年利用ChatGPT编写恶意程序，窃取日本最大网咖会员信息
IT之家 12 月 29 日消息，据读卖新闻报道，日本国内最大连锁网咖“快活 CLUB”于今年 1 月 18 日至 20 日遭黑客攻击，服务器中超过 700 万条会员个人信息被非法窃取。警方调查发现，幕后黑手并非职业黑客，而是一名 17 岁少年。
警方指出，涉案嫌疑人为一名关西大阪地区的高中二年级男学生，其成功绕过 ChatGPT 平台限制，在 AI 配合下打造了一款恶意程序，从而对“快活 CLUB”发动攻击，最终成功下载服务器中存储的约 725 万份会员资料。
具体来说，该恶意程序可向快活 CLUB 的服务器发送伪造指令，绕过系统对会员数据的访问限制，从而非法获取了包括会员姓名、住址、电话号码、入会时间及会员编号在内的大量敏感信息。攻击过程中，公司的部分系统功能一度中断，对快活 CLUB 的正常运营造成了严重影响。
警方调查显示，这名少年并非出身于专业黑客组织，但从小自学编程，并曾在信息安全或黑客相关竞赛中获奖，具备相当扎实的技术基础。警方进一步调查发现，其所使用的恶意程序正是借助 ChatGPT 完成编写。尽管生成式 AI 平台普遍设置了针对恶意代码的防护和限制，但只要通过特定话术或对需求进行“包装”，就有可能绕过这些限制，让 AI 协助生成具有实际攻击能力的工具。
至于涉案嫌疑人的作案动机，警方表示，该学生是为了获取他人的信用卡信息，用于在网上购买宝可梦卡片。尽管其在被捕后辩称只是“测试网站是否存在安全漏洞”，但这一说法并未被警方采信。
网络安全专家指出，随着生成式 AI 的普及，黑客门槛正大幅降低。即便用户缺乏深厚的编程或网络安全背景，但只要掌握 AI 工具的使用方法，就可能写出具备实战能力的恶意程序，即使平台事先设置了多重限制，但自然语言本身具有极高的灵活性，只要有明确目的，往往就能通过不断调整表述方式绕过现有限制机制，因此如何杜绝这种现象，将成为未来网络安全防护面临的一大挑战。