粉絲團
目前越來越多電腦或是手機服務的背後其實是人工智慧在主導處理（圖片來源／彭博）
在科幻電影或是小說中，機器人或人工智慧在高度發展下，對人類產生威脅的情節始終是作家們的最愛，原因無他，就因為這是極有可能發生的事，在 Google、微軟、Facebook、IBM 等科技業者相繼投入人工智慧發展後，怎麼防止這類事件的可能發生，也成為這些公司隱而不宣，但正在進行的重要工作，而 Google 旗下的 DeepMind 人工智慧發展部門（也就是打敗南韓棋王李世乭的 AlphaGo 開發部門），就公開闡述了他們如何避免這種情況發生！
開發 AlphaGo 擊敗南韓棋王李世乭的 DeepMind，最近就公佈其預防人工智慧失控的緊急停止機制（圖片來源／歐新）
在公佈的設計文件中，可以看出 DeepMind 團隊主要是防止人工智慧進行人類操作者設定之外的行為，透過在演算法中加入強制停止的設計，讓人工智慧在出現預期以外的行為，或是正在學習規避人類控制的時候，人類操作者能夠直接在底層的演算法終止機器或是人工智慧的學習過程，進而在人工智慧面臨失控的時候，可以透過這個緊急停止機制，停止人工智慧的運作，或是更改人工智慧的功能與任務。
未來倘若負責自動駕駛的人工智慧失控，若無緊急機制介入，將會是件相當可怕的事情（圖片來源／美聯）
如果真是如此，代表科學家們對人工智慧的發展並非全然樂觀，畢竟有微軟機器人在短短時間內學壞的前例（請看：都是網友亂教？微軟人工智慧「Tay」一天就學壞！），在人工智慧目前沒有「道德判斷」這個機制存在的狀況下，「強制關閉」這個功能的確有其必要性！
