生成式AI快速發展，正在改變人類的生活，但隨之而起的新興犯罪模式也快速增加。日本最近就有一起個案，一名25歲男子利用AI製造電腦病毒用來犯罪遭到逮捕，日前被東京地院判處有期徒刑3年、緩刑4年。這是日本首起因濫用生成式AI而在刑事案件中被判刑的案例。
《讀賣新聞》報導，25歲的無業男子林琉輝去年（2023年）3月，企圖利用生成AI編寫的電腦病毒原始碼加密特定檔案，並使其無法被開啟，進而以解密為條件要求受害人支付比特幣（bitcoin）賺取贖金。林琉輝在家中使用電腦和智慧型手機，透過AI生成的程式原始碼，順利獲得了類似勒索軟體的電腦病毒。
檢方資料顯示，林琉輝使用「非官方版本的《ChatGPT》」來加密受害人的特定文件並使其無法使用，接著要求對方支付加密資產「比特幣」。被告林琉輝本月1日接受訊問時表示，「病毒」的完成需要大約一個月的時間。他堅稱自己對於IT毫無了解，並表示：「如果沒有新一代人工智慧，我不可能創造出它」。當律師詢問這是否容易時，他回答說「是的」。
檢方指出，林琉輝早先從事過SIM卡詐騙等兼職，在尋找更輕鬆的賺錢途徑時，他結合自己對生成AI的興趣，萌生了製作病毒進行勒索的想法。去年3月31日，他在川崎市家中使用電腦和智慧型手機生成了類似電腦病毒的勒索軟體，同時他還假扮成他人竊取智慧型手機通訊卡進行詐騙，期間遭警逮捕。檢方表示，如果林琉輝不是因為通訊卡詐騙案被逮捕，他生成的勒索軟體可能就會被用於犯罪。
東京地方法院法官川瀨孝史在判決書中寫道：「被告為了賺錢而製作電腦病毒，已屬犯罪行為，刑事責任重大」。但另一方面，由於被告坦然認罪並表現出反省態度，最終採用了緩刑。
東京三井物產Secure Directions公司的高級惡意軟體分析技術員吉川孝志表示，生成式AI有著嚴格限制，不會對使用者提出的非法要求做出回應，但網路上也有網友分享繞過這些限制的方法。根據林琉輝的陳述，他曾研究並使用這些解除限制的方法。吉川孝治指出：「如果生成式AI被濫用，即使使用者不具備相關知識，也可能取得可用來犯罪的資料。在生成式AI快速普及的情況下，眼前最重要的是該如何防止被濫用於犯罪」。
