中学生が生成AIを用いて不正行為 | 教育コラム

こちらは日経新聞の記事です。
「生成AI悪用、楽天回線1000件不正契約か 中高生を逮捕」
警視庁サイバー犯罪対策課は、他人の楽天IDに不正ログインし、生成AIを補助的に利用して作成したプログラムで楽天モバイルの通信回線を大量に契約したとして、14歳から16歳までの男子中高生3人を不正アクセス禁止法違反と電子計算機使用詐欺の疑いで逮捕しました。3人はオンラインゲームを通じて知り合い、2024年5月から8月にかけて、11人分の楽天IDとパスワードを利用して105回線を不正に契約。押収された端末からは約33億件ものID・パスワードが発見され、プログラム作成には対話型AI「ChatGPT」が悪用されていました。不正契約した回線はテレグラム上で転売され、約750万円相当の暗号資産を報酬として得ていました。逮捕された少年らは、SNSでの注目や自由なお金が欲しかったと供述しています。楽天モバイルのシステムでは、一つの楽天IDで追加の本人確認なしに最大15のデータSIM契約が可能であり、その点を悪用したとみられています。
今回の事件は、未成年者が生成AIという最新技術を悪用し、大規模な不正行為に手を染めたという点で非常に衝撃的です。不正アクセスや詐欺という犯罪行為は断じて許されるものではありませんが、この事件の背景にある生成AIの活用という点に着目すると、彼らが情報収集やプログラム作成において、新しい技術を使いこなそうとした視点は、本来であれば非常に鋭いと言えるでしょう。生成AIは、アイデアの創出、効率的な情報整理、複雑なタスクの自動化など、様々な分野での応用が期待されており、そのポテンシャルを犯罪に利用した今回の事例は、まさに「目の付け所がするどい」と言わざるを得ません。
しかしながら、彼らがその能力を倫理観や法的知識を欠いたまま行使してしまったことは、非常に深刻な問題です。高度な技術を扱う際には、それが社会にどのような影響を与えるのかを深く理解し、責任ある行動を取ることが不可欠です。今回の事件は、技術の進歩に倫理観の育成が追い付いていない現状を浮き彫りにしています。
今後、生成AIをはじめとする高度な技術がより身近になる社会においては、技術的な知識だけでなく、情報倫理やモラル教育の重要性がますます高まります。子どもたちが技術の恩恵を正しく享受し、社会に貢献できる人材へと成長するためには、家庭、学校、そして社会全体で、倫理観を育む教育を徹底していく必要があるでしょう。今回の事件を単なる犯罪として捉えるだけでなく、技術と倫理のバランスの重要性を改めて認識し、未来の教育に活かしていくべきです。
*本日のイメージ画像は、Canvaのマジック画像生成を用いて「生成AIを悪用しているイメージ」というプロンプトで生成しました。
執筆者紹介

佐藤 大輔 satow@affordance.co.jp
株式会社アフォーダンス
エデュケーションサービス事業本部 エバンジェリスト
主に教育機関向けのGoogle Workspace等のクラウドサービスを活用した授業改善にかかるアドバイスや、情報セキュリティにかかる教育・改善支援を実施。エデュケーションサービス事業のエバンジェリスト(伝道師)として学校のGIGAスクール構想推進や運営支援サービスを行う。学校の先生向けの学校著作権研修、保護者、児童生徒向けの情報モラル・デジタルシディズンシップ研修なども実施。