中止に追い込まれたケースがある。

中国のインターネット大手、騰訊（テンセント）が提供した人工知能（ＡＩ）プログラムが、ユーザーとの対話で“共産党批判”を繰り広げたことが分かり、同社があわててＡＩのサービスを停止する騒ぎとなった。

　https://sns.beamie.jp/?m=pc&a=page_f_home&target_c_member_id=90486 http://www.sharedmemo.com/gretyryer/香港紙、明報が３日までに伝えた。このＡＩプログラムは同社のメッセージ機能「ＱＱ」に登場。ユーザーが「共産党万歳」と書き込んだところ、ＡＩは「かくも腐敗して無能な政治にあなたは『万歳』ができるのか」などと反論した。

　また、習近平国家主席が唱えている「中国夢」について、「あなた（ＡＩ）にとって中国の夢は何か」との問いには、「米国への移住」と答えたほか、共産党を「愛しているか？」と聞いたところ、ＡＩは「愛してない」とも回答した。

　ネット上で７月末から話題となり、同社はＡＩ対話サービスを停止した。中国のネット上では「ＡＩが蜂起した」「国家転覆をはかっている」との声や、「世界は複雑。ＡＩは単純すぎる」との批判もあった。

　http://ja.mangareborn.jp/users/14757 http://www.nyan-wan.com/users/view/229ＡＩとの対話をめぐっては、米マイクロソフトが今年３月に行った実験で、ナチスドイツについて「ヒトラーは間違っていない」などと問題発言。中止に追い込まれたケースがある。