それが人類滅亡の脅威になると著名な学者が言ってる様です。

昔今のようにパーソナルコンピューターが盛んでない頃に
ポケットコンピューターと言って自分でプログラムを組んで
作動させる物がありました
元々は経理の減価償却等の計算等に使うのが目的でしたが

その時に気がついたのは自分で組んだプログラムとは全く別に
勝手に動いてしまうことが時折ありました

誤作動だったのかプログラムを超えて動いたのかは不明ですが
人間が作ったものは人間の考えや予測の中でしか作動しない
と言う変な神話がありますが・・コンピューターに関しては
予想外の動きをするケースが少なからずあるようです

人工知能とはまさにコンピューターで作り出したものですが
今やコンピューターをコンピューターで製造したりしますから
人知を超えた動作や予想外の誤作動は大いにありうると思います

例えば人工知能AIが開発途中に開発者が意図しない働きを勝手にし始めて、開発者が気づかない場合に、人類の脅威になるでしょう。

人工知能AIは
AI自体が人間の様に経験や思考をして自己判断することなので
例えば開発者から探り出せない様に隠して人類の破滅を目論むことが可能かも知れません。
人間は完璧ではないのでチェック漏れで、優れた人工知能の方が
ずる賢くなってしまう可能性があります。
そうなると映画のターミネータの様になるかもしれません。

ホーキンス博士の「人口知能」に対する警鐘の事を仰ってるんですね。
　ニュースで伝えていたのは人工知能とプロ棋士の対戦でプロ棋士が敗れた事に関連して「人口知能が更に発展して自らの設計や改造を行うようになれば人類は人工知能に及ばない、人口知能の究極的発展は人類滅亡の始まりになる可能性がある」との同博士の警鐘・予見を報じていました。

　きちんと人工知能の使用倫理や開発倫理を明確にせず野放しにすればこの予見はあながち外れているとは思えません。ＳＦ映画に出てくるようなコンピューターが支配する世界です。

　生殖医療ではこれと同じような野放し状態があり、倫理規定や法整備よりも先に技術的既成事実が先行していますよね。

　科学者というのはある意味学問的には近視眼的で独善的です、科学的興味が行動衝動原理になっているので全体の整合性や倫理性は無視して暴走しうることがあり得るのです。

　ですから大きな観点からの「人間の為の科学」の視点を失うと脅威になると思います。