警視廳28日發表，一名男性因為使用在網路上免費公開的「對話型生成式AI」，製作電腦病毒，警方依以非法指令製作電磁性記錄嫌疑，逮捕這名林琉輝嫌犯(25歲，家住川崎市幸區市場1丁目、無業)。犯人因使用生成式AI製作電腦病毒而遭到逮捕的例子極為罕見。
根據網路犯罪對策課表示，林嫌犯涉嫌於去年3月，使用住家裡的電腦與手機，連結到多個在網路上免費公開的生成式AI，讓這些生成式AI做出非法程式設計圖的「源代碼」，再製成可以破壞企業等單位持有數據的電腦病毒。林嫌犯已經承認嫌疑，供稱：「生成式AI什麼都能辦到」「我就想著製作(威脅企業，要求贖金的)勒索軟體。」
目前尚未確認有人受害，不過製作出來的病毒具有將目標數據變成暗號，並以此要求贖金的機能。
■嫌犯鎖定目前防止惡用對策尚不完全的AI？
關於生成式AI，美國的「OpenAI」於2022年11月公開對話型AI「ChatGPT」，之後有許多同樣的生成式AI在網路上公開。主要的對話型生成式AI已經加強對策，不會回答可能會被用於犯罪的惡意指示。但是網路上仍有防止惡用對策尚不完全的生成式AI，網路犯罪對策課認為林嫌犯就是利用這些生成式AI。
今年3月，林嫌犯因為非法簽約取得手機SIM卡，故而遭到警視廳依詐欺等嫌疑逮捕。在搜查過程中，警方發現了其自製的電腦病毒。
擔心生成式AI遭到非法利用，近年各國連連加強規制生成式AI。歐盟於本月21日接受概略性規制AI的「AI法」，規定AI提供者有應對AI危險性的義務，違反者會被開罰制裁金。日本政府也於本月22日舉行「AI戰略會議」，開始討論規制確保AI安全性的法規法條。
來源：https://news.yahoo.co.jp/articles/54e7340b47815f82466b985ade4c9481cc431e8d
#Tokyo
沒有留言:
張貼留言