サムスンのソフトウェアエンジニアがChatGPTに独自コードを貼り付けて逮捕
韓国に本拠を置くサムスンの半導体事業の複数の従業員が、一連の機密コードを ChatGPT に差し込み、チャットボットの今後の世界中の人々への応答に含まれる可能性のある企業秘密を事実上漏洩しました。
エコノミスト・コリアによると(新しいウィンドウで開きます)、ある従業員はバグのあるソースコードを半導体データベースからチャットボットにコピーし、修正を特定するよう依頼しました。 別の従業員も別の機器に対して同じことを行い、ChatGPT に「コードの最適化」を要求しました。 3 人目の従業員が AI モデルに会議のメモを要約するよう依頼した後、サムスン幹部が介入しました。同社は各従業員による ChatGPT へのプロンプトを 1,024 バイトに制限しました。
わずか 3 週間前、サムスンはこの問題に関する懸念を理由に、従業員による ChatGPT の使用禁止を解除していました。 最近の事件を受けて、同社は従業員の懲戒処分だけでなく、禁止措置の復活も検討しているとエコノミスト・コリア紙は報じた。
「緊急の情報保護措置を講じた後でも同様の事故が発生した場合、社内ネットワーク上でChatGPTへのアクセスが遮断される可能性があります。」と社内メモに記載されています。「ChatGPTに内容が入力されるとすぐに、データが外部に送信され、保存されます。」サーバーが停止し、会社がそれを取得することが不可能になります。」
OpenAI ユーザー ガイド (新しいウィンドウで開きます) では、この行為に対してユーザーに警告しています。「履歴から特定のプロンプトを削除することはできません。会話では機密情報を共有しないでください。」 それによると、システムは送信されたすべての質問とテキストをトレーニング データとして使用します。
バグのあるコードを見つけて修正するための ChatGPT の使用は、ソフトウェア エンジニアリング内で広く普及しています。 ユーザーがコーディングに関する質問をすると、解決策を特定しようとし、ワンクリックのコピー&ペーストボタンでコードのスニペットを提供します。 このチャットボットのコーディング知識は、Google に初級エンジニアとして採用されるのに十分なようです。
これにより、エンジニアがトラブルシューティングの人気リソースである Stack Overflow などのサイトを閲覧するのに費やす時間 (場合によっては数時間) を置き換えることができます。 ソフトウェア エンジニアによる ChatGPT の使用率が高いことの証拠として、Stack Overflow は、信憑性があるように見える不正確な回答に対する懸念から、ChatGPT が生成した応答を 2022 年 11 月 30 日のリリースから数日後に禁止しました(新しいウィンドウで開きます)。
「主な問題は、ChatGPT が生成する答えは不正解である可能性が高いものの、通常は良さそうに見え、答えを生成するのが非常に簡単であることです」と Stack Overflow は 4 日前に更新された投稿で述べています。 「これらの回答の量(数千件)により、ボランティアベースの質の高いキュレーションインフラストラクチャが事実上埋まっています。」
サムスンは将来の事故を防ぐために独自のAIを構築することを検討していると伝えられているが、技術者が個人のデバイスでChatGPTを使用することであらゆる対策を回避できる可能性がある。 Microsoft Bing と Google Bard もコード行のバグを検出できるため、ChatGPT を禁止することは完全な解決策ではありません。
今すぐ最新情報にサインアップしてくださいトップ記事を毎朝あなたの受信箱に届けます。
このニュースレターには、広告、取引、またはアフィリエイト リンクが含まれる場合があります。 ニュースレターを購読すると、利用規約とプライバシー ポリシーに同意したことになります。 ニュースレターはいつでも購読を解除できます。
購読が確認されました。 受信トレイに注目してください。
今の新機能