ChatGPTなどの「新しいAI」もたらす「脅威」をロジカルに分析してみる！法整備なきまま進むと「取り返しのつかない深刻な事態に」
更新日：9月27日
2023年当時の記事です
この記事は、2023年当時の出来事や、そのとき僕が考えていたことを残した記録です。2026年9月22日に読み返し、リンクや表示など読みにくいところだけ整えました。内容はできるだけ当時のまま残しているので、サービス名・制度・数字などは現在と異なる場合があります。
今、世界中で「AI」が話題になり、「ChatGPT」の出現で「真のAI」が登場、「AI元年」などと言われています。
「AI」の初期段階は、「大量の情報のインプット」から始ります。
今、話題になっている「ChatGPT」も、インターネット上の大量の情報をインプットし、成長し、またユーザーがさまざまな質問などを入力し、答えていくことで成長します。
その「情報のインプット」の際には、「人間の良心」のようなフィルターは存在しません。
今、アメリカで「TikTok」を排除する動きが出ています。TikTokの運営元は「バイトダンス」。中国の企業です。
なので、個人情報が中国に、極秘に抜き取られることを恐れているのです。
では、TikTokをスマホにインストールすると、どれだけの個人情報が抜き取られるのでしょうか？
iPhoneのApp StoreでTikTokを探し、下の方を見てみてください。
「ユーザーに関連付けられたデータ」
TikTokに、以下のスマホ内の情報にアクセスすることを、ダウンロードした時点で「承諾」していることになります。
・連絡先情報
＝所在地
＝メールアドレス
＝名前
＝電話番号
・購入：購入履歴
・財務情報：支払い情報
・位置情報：詳細な位置情報
・連絡先
・ユーザーコンテンツ
＝写真、ビデオ、オーディオ
・検索履歴
・閲覧履歴
・使用状況データ
・診断
・ID
もはや、自分でも知らないくらいの個人情報です。
かたや「Google」系のアプリをインストールしても、もっと多くの情報を抜き取られていてい、EUは、圏内の情報がアメリカに渡ることを警戒して、Google規制の動きを強めています。
このように、世界中が、国境なき「インターネット」の世界で、個人情報取得の線引きを初めています。
さて、ChatGPTは、とてつもなく便利ですが、ビジネスで使用する際に、「Confidential：社内秘」と書かれた文章や資料を生成する際にChatGPTを使ったどうなるでしょうか？
これからローンチする、ソフトウェア、アプリのソースコードを入力したり、生成したらどうなるでしょうか？
ハッカーたちが、AIの癖を見抜き、そうした「秘匿情報」をAIから吐き出させるコード、質問を見つけたらどうなるでしょうか？
このことを考えると、法整備もないまま「AI」を受け入れてしまうと、取り返しのつかないことになると危惧しています。
コメント