ITパスポート過去問
令和8年度
問17 (ストラテジ系問17)

AIを利活用する上で留意すべき事項として、適切なものだけを全て挙げたものはどれか。

a　　AIの意図しない動作によって、人間の生命や身体などに危害を及ぼす可能性
b　　AIの判断に差別的な内容が含まれる可能性
c　　AIの判断にプライバシーの侵害となる内容が含まれる可能性

付箋は自分だけが見れます（非公開です）。

このページは閲覧用ページです。
履歴を残すには、「新しく出題する（ここをクリック）」をご利用ください。

問題

ITパスポート試験令和8年度問17（ストラテジ系問17）（訂正依頼・報告はこちら）

正解！素晴らしいです

残念...

生成AIを利用するにあたってのモラル・リテラシーを問う問題です。

a、b、cすべて留意すべきといえます。

a AIの意図しない動作によって、人間の生命や身体などに危害を及ぼす可能性

→フィジカルAIと呼ばれる、AI搭載のロボットやアンドロイドを産業や介護事業、警備などに活用する施策がすでに始まっています。

これらの活用は直接的に人間の安全に関わることですので、誤作動などが起こらないよう十分な学習・デバッグなどの保守運用が急務といえます。

b AIの判断に差別的な内容が含まれる可能性

c AIの判断にプライバシーの侵害となる内容が含まれる可能性

→生成AIの悪用により、こうした内容が生成される事例も社会問題となっています。

生成AIの悪用による情報セキュリティ事故を防止するため、AI利用者はもちろん、AIを熟知した情報セキュリティ技術者の育成も今後は重要な課題となっています。

まとめ

生成AIの悪用事例として、プロンプトインジェクションというものがあります。

例えば論文の採点などをAIで自動化している場合、その採点基準を無効化するようなプロンプトを見えない色のフォント（白など）で入力し、PDF化するといった手口です。

プロンプトインジェクションの対策として、

・プロンプトにユーザー指示を受け付けないよう、ファインチューニングする

・フィルタープロンプトを入力する

などが挙げられます。

参考になった数0