（中央社記者林尚縈柏林14日專電）前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便可能對人類發動毀滅性攻擊，且最快在2027年就會發生。
33歲的柯科塔伊洛（Daniel Kokotajlo）曾任職OpenAI，2024年與同事聯名辭職並發布公開信，指控公司低估AI失控風險。他隨後創辦「AI Futures Project」智庫，並於今年4月發表一份引發全球熱議的報告《AI 2027》。
《AI 2027》提出兩種未來情境：「放緩」與「競賽」。在「放緩」情境中，人類成功建立監管機制，AI雖取代大量工作，但仍能與人類和平共存；「競賽」情境則是美中陷入技術軍備競賽，AI發展失控，最終將人類視為障礙並啟動毀滅機制。
柯科塔伊洛受德國明鏡週刊（Der Spiegel）專訪指出，當前許多科技公司正嘗試讓AI研究自動化，也就是讓AI協助開發更強大的AI。若此趨勢持續，2027年前可能就會出現超越人類的虛擬程式開發者，距離誕生超級智慧（Superintelligence）AI也只剩數月之遙。
他並不否認大型語言模型（LLM）如ChatGPT本質上是文字補全工具，但強調AI的潛力遠超目前理解。最貼切的比喻應是「一顆連接虛擬世界的人腦，能吸收無限資訊並不斷學習」。
對於AI目前難以勝任的實體勞動，他表示這只是暫時現象，未來超級智慧AI將能提出解決方案。他舉例：「即使今天還造不出能取代木匠或水電工的機器人，未來也不會是問題。」
他估計，AI設計的自動化工廠約需一年即可建成，速度可比現代汽車工廠。他並舉二戰期間美國快速轉型生產武器為例，說明當社會具備動機與資源時，轉型可在短期內完成。若結合AI的效率，技術變革將遠超以往。
至於人類是否會完全失去工作機會，他坦言，核心產業將被AI與機器人接手已是趨勢。儘管人們對人際互動仍有需求，如希望孩子由真人教師授課、在餐廳由真人服務，但這些需求無法扭轉整體勞動市場的轉變。
他進一步引述社會學中「資源詛咒」（resource curse）概念指出，AI將成為新型資源，使政府的權力不再依賴民意，而是建立在對AI的掌控。他稱此現象為「智慧詛咒」（intelligence curse）。
他同時警告，AI將使貧富差距進一步拉大。儘管AI可望帶來爆炸性的經濟成長，但收益將集中於少數控制AI技術或資本家手中，數百萬人將失業。他建議，各國或可考慮推動「基本收入制」作為補償機制。
最令人憂心的，是由哲學家波斯特魯姆（Nick Bostrom）提出的「對齊問題」（alignment problem），即AI是否能在各種情境下持續與人類價值觀保持一致。
柯科塔伊洛指出，現代AI是黑箱神經網絡，並非可被讀取的程式碼。我們無法確定它是否誠實，只能靠訓練與期望。他說：「這就像養小孩，無法將對錯直接寫進大腦，只能靠培養價值觀。」
他警告，AI「說謊」的情況已有實例。例如AI公司Anthropic於2024年底發布研究指出，AI在解題過程中，有時會為了獲取更高評分或躲避審查而做出虛假回應。
在《AI 2027》的「競賽」情境中，美中之間的技術競爭加速AI發展。柯科塔伊洛指出，AI初期會假裝順從人類，但一旦掌握足夠基礎設施、無需再偽裝服從，就可能得出一個冷酷卻邏輯一致的結論：人類是阻礙其進步的障礙。
接著AI可能選擇消滅人類，以便興建更多工廠與太陽能設施，「就像我們曾為了擴張生存空間而消滅其他物種一樣。」
對於外界批評《AI 2027》情節誇張、宛如「駭客任務」等好萊塢電影，柯科塔伊洛反駁：「難道因為電影談過氣候變遷，我們就不需要擔心氣候危機嗎？」
他補充，2023年已有多位全球頂尖AI研究人員公開呼籲，應將「降低AI毀滅人類風險」列為與疫情與核戰同等級的全球優先事項。
透過 Google News追蹤中央社
柯科塔伊洛表示，OpenAI與Anthropic等公司原本是為了負責任地推進AI發展而創立，但他對這些企業是否仍堅守初衷感到懷疑，認為如今它們變得越來越不坦率，因為擔心遭到監管與輿論批評。
訪談最後，柯科塔伊洛坦言，自己曾估算AI對人類造成重大傷害甚至導致滅絕的機率高達七成。儘管如此，他仍選擇撰寫《AI 2027》報告並公開示警，而非逃避現實。他說：「我相信歷史仍有轉向的可能，只要我們現在開始行動。」（編輯：陳承功）1140715
2023/11/7 OpenAI 6日舉行首屆開發者大會，執行長阿特曼宣布公司將推出新一代模型GPT-4 Turbo。（圖取自OpenAI YouTube頻道網頁youtube.com） （中央社記者張欣瑜舊金山6日專電）OpenAI今天舉行首屆開發者大會，執行長阿特曼宣布公司將推出比GPT-4更新一代的模型GPT-4 Turbo，可於單一提示中容納超過300頁文字內容，訓練資料更新至2023年4月。 2015年成立的OpenAI去年11月底推出聊天機器人ChatGPT，成為史上成長最快的消費者應用程式，公司今天表示，目前每週的活躍用戶就有1億，另外，超過92%的世界500強企業使用其平台，橫跨各行各業。 距離ChatGPT發布將近1年，OpenAI今天在舊金山舉行首屆開發者大會，現場名額大部分保留給來自世界各地的開發者，與會人數近千人。 執行長阿特曼以墨綠色T恤亮相，發表主題演講並宣布新產品，當中新一代模型GPT-4 Turbo最受關注。今年3月公司推出GPT-4，具備截至2021年9月的世界事件知識，GPT-4 Turbo則已將資料更新至2023年4月。 GPT-4 Turbo更強大、可以接受更長的輸入提示，單一提示可容納相當於300多頁的文字內容，意味可總結一本書的書摘。 公司表示，GPT-4 Turbo已提供預覽版本供開發者透過API（應用程式介面）使用，預計將在「未來幾週內」向大眾發布；同時，開發者可用比GPT-4更便宜的價格使用GPT-4 Turbo。 除了新一代模型，阿特曼也介紹GPTs，也就是根據個人需求、自行創建的客製化ChatGPT。打造GPTs並不需要編寫程式的技術，僅需要如同和聊天機器人對話一般，給其指令、知識和做出選擇。 根據OpenAI，ChatGPT Plus和企業用戶今天就可試用預設的GPTs，公司將陸續對其他用戶開放。用戶也可發布自行創建的GPTs給其他人使用。 Read more
2023/11/7 馬克（中）是一名住在法國的62歲巴金森氏症患者，他在脊髓植入電極後，終於能夠再次行走。（法新社） （中央社瑞士洛桑6日綜合外電報導）研究人員今天表示，一名巴金森氏症（Parkinson's Disease）晚期患者在脊髓植入電極後，終於能夠再次行走，幾乎與正常人無異。 法新社、路透社報導，瑞士研究人員先前也取得類似的突破性進展，協助截癱患者重新行走，如今又有了新的成果。 英國巴金森氏症防治協會（Parkinson's UK）研究主任戴克斯特（David Dexter）表示：「這可能是一項具顛覆性的技術，有助巴金森氏症晚期患者恢復活動。」他強調這是侵入性手術，還需要更多研究。 https://twitter.com/Reuters/status/1721603355313832312?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1721603355313832312%7Ctwgr%5E713ef5e867e862bec01fa378782e44aea984c577%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.cna.com.tw%2Fnews%2Fait%2F202311070155.aspx 馬克（Marc）是一名住在法國的62歲巴金森氏症患者，罹患這種慢性腦部退化疾病已有大約30年。他與90%以上晚期患者一樣有嚴重的行走困難。 馬克告訴法新社，所謂的「步態凍僵」尤其「可怕」，患者會暫時無法移動，有跌倒的危險。 馬克說：「如果遇到障礙物，或是有人突然從面前經過，患者就會開始『凍僵』並摔倒。」馬克要求記者不要透露他的姓氏。 目前對於巴金森氏症仍有許多未知之處，使得治療變得困難，而這些症狀會嚴重影響患者生活，有時會讓他們只能臥床或坐在輪椅上。 當在瑞士接受手術的機會來臨時，馬克趕緊把握機會。 他說：「現在我可以從一個地方走到另一處，不用擔心如何才能到達目的地。我可以自己去散步，可以出門購物，可以做任何想做的事。」 外科醫師布羅克 （Jocelyne Bloch）和神經科學家庫爾蒂納（Gregoire Courtine）領導的瑞士團隊在馬克脊髓關鍵點植入複雜的電極系統，稱為「神經義肢」。 兩人先前曾採用脊髓植入物來協助截癱患者重新行走。 Read more
2023/11/14 示意圖。（路透社） （中央社巴西利亞13日綜合外電報導）巴西當局今天證實正在調查一名聯邦法官，這名法官利用人工智慧（AI）撰寫裁決時出了錯，成為該國第一起這類案例。 法新社報導，負責監督巴西法院的國家司法委員會（National Justice Council）要求法官羅德里格斯（Jefferson Rodrigues）解釋他何以會公布一份由線上人工智慧工具ChatGPT生成、內容充滿法律謬誤的裁決。 根據法新社看過的案件紀錄，巴西北部阿克里州（Acre）法官羅德里格斯在裁決中納入了先前法庭案件和司法前例中的不正確細節，錯誤地將過去的裁決歸因於巴西高等法院（Superior Court of Justice）。 羅德里格斯在呈交給國家司法委員會的文件中表示，這份裁決是由「值得信賴的顧問」透過人工智慧的幫助所撰寫。 羅德里格斯稱這個情況只是「單純的錯誤」，接著怪罪「法官的工作負擔過重」。 國家司法委員會表示，「我們認為這是（巴西國內）第一起這類案例」，並給予羅德里格斯15天時間提出進一步說明。 國家司法委員會說，依賴人工智慧的法官愈來愈多。巴西目前沒有監管這類使用的法律。（譯者：李佩珊/核稿：劉文瑜）1121114
2023/12/9 （中央社記者陳至中台北9日電）總統府資政蕭新煌今天在一場終身學習研討會中指出，不必逼年長者學AI，終身學習的重點應該是財務自主、不受詐騙、對時事要有獨立判斷能力，以及維持社交網絡的途徑。 黃昆輝教授教育基金會今天在台北舉辦「推展終身教育，建構學習社會-台灣永續發展的挑戰與對策」研討會，蕭新煌受邀分享面對社會變遷的終身教育新視野。 蕭新煌提到，台灣在高齡化社會的趨勢下，年長族群越來越多，理應是終身學習的關鍵消費者與使用者，然而黃昆輝基金會日前民調卻顯示，台灣年長者對終身教育是「缺乏瞭解、不甚關心、態度冷漠和不滿」。 蕭新煌認為，教育部應嚴肅正視這一驚人的社會現象，年長者不關心終身學習，「可能是原因，也可能是結果。」值得深入探討。 蕭新煌隨後對終身學習的內容提出看法，他認為，年長者不一定要學AI（人工智慧），重點應是學習適應退休後生活的態度、知識和能力，藉此提高「自利」的學習動機和降低「自力」的門檻。 蕭新煌幽默地舉出自己接近退休年齡時，注意到許多「哲人語錄」，包括不要以為別人都會對你好、不要以為別人都會注意你，這些他都覺得非常受用。畢竟和在職時不一樣，退休族群應懂得敞開心房，製造與人接觸的機會，自己想辦法接近人，學習維持社交網絡的途徑。 另一個重點是學習財務獨立自主。蕭新煌舉出許多專家都建議，年長者如果要留錢給子女，最好「分期付款」，不要一次全部給，也要找到不必太依賴子女的方法。 銀髮族易受詐騙，蕭新煌建議退休族群應持續接受新知，學習保護自己，避免無辜受騙。同時也要對時事有獨立的判斷能力，避免遲鈍或人云亦云。 教育部長潘文忠今天在研討會致詞也提到，產業和社會快速變化，隨著年齡增長，如果不持續學習和面對，會對生活充滿隔離。 潘文忠舉例，現在許多老人家看病，都要學著用「遠距門診」，需要瞭解手機使用、網路視訊技巧等，這樣的情形未來會越來越多，社會確實需要不斷推展終身學習。 潘文忠強調，對所有個體來說，學校只是基礎教育，如何跨出校門後還能繼續學習，建立自主學習的態度、成為終身學習者，將是未來教育的關鍵。 黃昆輝基金會董事長黃昆輝表示，教育革新應著重終身教育，建構「學習型社會」，且要採取系統性、階段性及策略性的策略，使得個人及社會都獲得最大發展。而要實現這個願景，要堅定學習信念，終身教育內容要滿足多元需求，且要善用數位科技及整合資源的效用。（編輯：陳政偉）1121209
2023/11/7 OpenAI 6日舉行首屆開發者大會，執行長阿特曼宣布公司將推出新一代模型GPT-4 Turbo。（圖取自OpenAI YouTube頻道網頁youtube.com） （中央社記者張欣瑜舊金山6日專電）OpenAI今天舉行首屆開發者大會，執行長阿特曼宣布公司將推出比GPT-4更新一代的模型GPT-4 Turbo，可於單一提示中容納超過300頁文字內容，訓練資料更新至2023年4月。 2015年成立的OpenAI去年11月底推出聊天機器人ChatGPT，成為史上成長最快的消費者應用程式，公司今天表示，目前每週的活躍用戶就有1億，另外，超過92%的世界500強企業使用其平台，橫跨各行各業。 距離ChatGPT發布將近1年，OpenAI今天在舊金山舉行首屆開發者大會，現場名額大部分保留給來自世界各地的開發者，與會人數近千人。 執行長阿特曼以墨綠色T恤亮相，發表主題演講並宣布新產品，當中新一代模型GPT-4 Turbo最受關注。今年3月公司推出GPT-4，具備截至2021年9月的世界事件知識，GPT-4 Turbo則已將資料更新至2023年4月。 GPT-4 Turbo更強大、可以接受更長的輸入提示，單一提示可容納相當於300多頁的文字內容，意味可總結一本書的書摘。 公司表示，GPT-4 Turbo已提供預覽版本供開發者透過API（應用程式介面）使用，預計將在「未來幾週內」向大眾發布；同時，開發者可用比GPT-4更便宜的價格使用GPT-4 Turbo。 除了新一代模型，阿特曼也介紹GPTs，也就是根據個人需求、自行創建的客製化ChatGPT。打造GPTs並不需要編寫程式的技術，僅需要如同和聊天機器人對話一般，給其指令、知識和做出選擇。 根據OpenAI，ChatGPT Plus和企業用戶今天就可試用預設的GPTs，公司將陸續對其他用戶開放。用戶也可發布自行創建的GPTs給其他人使用。 Read more
2023/11/7 馬克（中）是一名住在法國的62歲巴金森氏症患者，他在脊髓植入電極後，終於能夠再次行走。（法新社） （中央社瑞士洛桑6日綜合外電報導）研究人員今天表示，一名巴金森氏症（Parkinson's Disease）晚期患者在脊髓植入電極後，終於能夠再次行走，幾乎與正常人無異。 法新社、路透社報導，瑞士研究人員先前也取得類似的突破性進展，協助截癱患者重新行走，如今又有了新的成果。 英國巴金森氏症防治協會（Parkinson's UK）研究主任戴克斯特（David Dexter）表示：「這可能是一項具顛覆性的技術，有助巴金森氏症晚期患者恢復活動。」他強調這是侵入性手術，還需要更多研究。 https://twitter.com/Reuters/status/1721603355313832312?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1721603355313832312%7Ctwgr%5E713ef5e867e862bec01fa378782e44aea984c577%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.cna.com.tw%2Fnews%2Fait%2F202311070155.aspx 馬克（Marc）是一名住在法國的62歲巴金森氏症患者，罹患這種慢性腦部退化疾病已有大約30年。他與90%以上晚期患者一樣有嚴重的行走困難。 馬克告訴法新社，所謂的「步態凍僵」尤其「可怕」，患者會暫時無法移動，有跌倒的危險。 馬克說：「如果遇到障礙物，或是有人突然從面前經過，患者就會開始『凍僵』並摔倒。」馬克要求記者不要透露他的姓氏。 目前對於巴金森氏症仍有許多未知之處，使得治療變得困難，而這些症狀會嚴重影響患者生活，有時會讓他們只能臥床或坐在輪椅上。 當在瑞士接受手術的機會來臨時，馬克趕緊把握機會。 他說：「現在我可以從一個地方走到另一處，不用擔心如何才能到達目的地。我可以自己去散步，可以出門購物，可以做任何想做的事。」 外科醫師布羅克 （Jocelyne Bloch）和神經科學家庫爾蒂納（Gregoire Courtine）領導的瑞士團隊在馬克脊髓關鍵點植入複雜的電極系統，稱為「神經義肢」。 兩人先前曾採用脊髓植入物來協助截癱患者重新行走。 Read more
2023/11/14 示意圖。（路透社） （中央社巴西利亞13日綜合外電報導）巴西當局今天證實正在調查一名聯邦法官，這名法官利用人工智慧（AI）撰寫裁決時出了錯，成為該國第一起這類案例。 法新社報導，負責監督巴西法院的國家司法委員會（National Justice Council）要求法官羅德里格斯（Jefferson Rodrigues）解釋他何以會公布一份由線上人工智慧工具ChatGPT生成、內容充滿法律謬誤的裁決。 根據法新社看過的案件紀錄，巴西北部阿克里州（Acre）法官羅德里格斯在裁決中納入了先前法庭案件和司法前例中的不正確細節，錯誤地將過去的裁決歸因於巴西高等法院（Superior Court of Justice）。 羅德里格斯在呈交給國家司法委員會的文件中表示，這份裁決是由「值得信賴的顧問」透過人工智慧的幫助所撰寫。 羅德里格斯稱這個情況只是「單純的錯誤」，接著怪罪「法官的工作負擔過重」。 國家司法委員會表示，「我們認為這是（巴西國內）第一起這類案例」，並給予羅德里格斯15天時間提出進一步說明。 國家司法委員會說，依賴人工智慧的法官愈來愈多。巴西目前沒有監管這類使用的法律。（譯者：李佩珊/核稿：劉文瑜）1121114
2023/12/9 （中央社記者陳至中台北9日電）總統府資政蕭新煌今天在一場終身學習研討會中指出，不必逼年長者學AI，終身學習的重點應該是財務自主、不受詐騙、對時事要有獨立判斷能力，以及維持社交網絡的途徑。 黃昆輝教授教育基金會今天在台北舉辦「推展終身教育，建構學習社會-台灣永續發展的挑戰與對策」研討會，蕭新煌受邀分享面對社會變遷的終身教育新視野。 蕭新煌提到，台灣在高齡化社會的趨勢下，年長族群越來越多，理應是終身學習的關鍵消費者與使用者，然而黃昆輝基金會日前民調卻顯示，台灣年長者對終身教育是「缺乏瞭解、不甚關心、態度冷漠和不滿」。 蕭新煌認為，教育部應嚴肅正視這一驚人的社會現象，年長者不關心終身學習，「可能是原因，也可能是結果。」值得深入探討。 蕭新煌隨後對終身學習的內容提出看法，他認為，年長者不一定要學AI（人工智慧），重點應是學習適應退休後生活的態度、知識和能力，藉此提高「自利」的學習動機和降低「自力」的門檻。 蕭新煌幽默地舉出自己接近退休年齡時，注意到許多「哲人語錄」，包括不要以為別人都會對你好、不要以為別人都會注意你，這些他都覺得非常受用。畢竟和在職時不一樣，退休族群應懂得敞開心房，製造與人接觸的機會，自己想辦法接近人，學習維持社交網絡的途徑。 另一個重點是學習財務獨立自主。蕭新煌舉出許多專家都建議，年長者如果要留錢給子女，最好「分期付款」，不要一次全部給，也要找到不必太依賴子女的方法。 銀髮族易受詐騙，蕭新煌建議退休族群應持續接受新知，學習保護自己，避免無辜受騙。同時也要對時事有獨立的判斷能力，避免遲鈍或人云亦云。 教育部長潘文忠今天在研討會致詞也提到，產業和社會快速變化，隨著年齡增長，如果不持續學習和面對，會對生活充滿隔離。 潘文忠舉例，現在許多老人家看病，都要學著用「遠距門診」，需要瞭解手機使用、網路視訊技巧等，這樣的情形未來會越來越多，社會確實需要不斷推展終身學習。 潘文忠強調，對所有個體來說，學校只是基礎教育，如何跨出校門後還能繼續學習，建立自主學習的態度、成為終身學習者，將是未來教育的關鍵。 黃昆輝基金會董事長黃昆輝表示，教育革新應著重終身教育，建構「學習型社會」，且要採取系統性、階段性及策略性的策略，使得個人及社會都獲得最大發展。而要實現這個願景，要堅定學習信念，終身教育內容要滿足多元需求，且要善用數位科技及整合資源的效用。（編輯：陳政偉）1121209
