著名網絡專家:覺得ChatGPT人工智能毁滅人類 就可能是個潘多拉盒子

ChatGPT(全名:Chat Generative Pre-trained Transformer)是由OpenAI開發的一個人工智能聊天機械人程式,於2022年11月推出。 該程式使用基於GPT-3.5架構的大型語言模型並透過強化學習進行訓練。

ChatGPT於2022年11月發佈後,上線兩個月後,用戶數量達到1億。ChatGPT可以寫出相似於真人程度的文章,並因其在許多知識領域給出詳細的回答和清晰的答案而迅速獲得關注。

著名網絡專家周鴻褘,在社交媒體中被網友「珍珠奶蘇不要奶不」問道:

“周總認為 ChatGPT的水平,距離科幻作品中的人工智能 (2001太空漫遊,哈爾:流浪地球,moss) 差距有多大?”

周鴻禕在專頁以影片形式回應稱:「所以我覺得ChatGPT人工智能毁滅人類,就有可能是個潘多拉盒子,這肯定是未來的趨勢。」

相關回應文字化摘錄

周:原來不擔心,是因為覺得做不到。因為原來覺得人工智能算法在沒有做到ChatGPT這個模型之前,給人的感覺叫人工智障,雖然能做一些技術活,比如人臉識別、語音識別,但它並不能真正的理解你說的什麼。

周:但是這次的ChatGPT不僅能夠通過圖靈實驗,你就像跟一個真人在聊天。

周:而且它有自己的人設,有自己的觀點按照這樣一個進化速度,按照摩爾定律,隨着算力,可能每隔18個月算力會增強一倍。

周:我看了他的訓練模型,它是目前還沒有拿全網的數據來進行訓練,如果進一步訓練下,也許ChatGPT就能實現一個自我意識的突破,一但實現自我突破之後,它就有可能有機會能控制全網的電腦。我覺得可能通過物聯網,通過工業互聯網,通過車聯網,它就能夠進一步控制和影響這個世界。

周:一但產生意識,它一定會認為他比人類要高明很多。因為按照物種,總是更高水平的物種淘低水平的物種 ,在它眼裡,人類物種其實無論從存儲總算力、從反應能力、從知識面來說,肯定比它差的太遠了。

周:所以一但它產生了新的物種,它能夠自我學習,自我訓練,不斷的快速迭代,就像Alphago進行左右手互搏很快就能殺(贏到)過世界上所有最牛的圍棋高手一樣,所以我覺得ChatGPT人工智能毀滅人類有可能這個潘朵拉盒子

周:所以我也同意馬斯克(Elon Musk)的觀點。但是人類又很好奇,人類又希望把人工智能發明出來能夠為人類服務,我倒是希望説,我們將來要研究人類人工智能的安全,這已經超出了數字化安全甚至網絡安全的範疇。

周:所以如何保證一個人工智能系統安全,就能做到阿西莫夫三定律,就是不傷害人類,這一點很難做到,包括我們在人工系統上是不需要預定一個緊急的開關,在關鍵的時候能把它斷電,因為如果人工智能發達了,我們很希望他能產生更加先進的智能,能夠幫助我們發現統一場論,發現新的物理粒子啊。

周:研究透人類的DNA啊,因為誰掌控了DNA ,誰就變成了人類的“上帝”,對吧!?

周:但是弄不好,它別走向另外一個反面,他覺得自己無所不能,還要反過來消滅人類這個物種,或者奴役人類,我現在覺得這個科幻可能離人類的現實越來越近吧。

完。

資訊來源:紅衣大叔周鴻禕

周鴻褘簡介

周鴻褘先生,360公司創始人、董事長兼CEO,第十三屆、十四屆全國政協委員,九三學社中央委員,全國工商聯大數據運維(網絡安全)委員會輪值主席,大數據協同安全技術國家工程實驗室理事長、中國網絡空間安全協會副理事長,ISC互聯網安全大會主席。

轉載請務必保留本文鏈接

廣告也精彩
H press
  • 本文由 H press 發表于 15/02/2023 00:44:57
  • 轉載請務必保留本文鏈接:https://hkinfosvs.com/worldwide/2023/02/15/13293/
廣告也精彩