孫宇教授：什麼才是終極智慧和自主系統？

雷鋒網按：作者孫宇，南佛羅里達大學電腦系教授、斯坦福大學訪問教授、IEEE RAS機器臂抓取和操作技術委員會的始創主席及美國總統國情諮詢委員會機器人方向的顧問。

本文系雷鋒網獨家文章。

via：

7mnpep.com

在2016年10月25日，我收到NSF的一封電子郵件，通知我一個新的NSF基金稱為智慧和自主系統（S＆AS）。 它是國家機器人計畫（NRI）之後的另一個機器人相關的基金。 在NRI之前，機器人領域的學者只能在CISE-IIS部門的Robust Intelligence（RI）學科下提交他們的機器人研究的基金專案申請。

新的S＆AS基金是機器人領域的好消息。 它反映了美國在機器人和人工智慧方面的國家利益的重要性。 正式來說，該基金側重于智慧物理系統（IPS）。

 IPS是一個新術語，涵蓋任何智慧的物理系統， 這裡的重點是“智慧”和“物理”。

例如，AlphaGo不是一個物理系統。 所以，提出一個深度學習的線上遊戲系統可能不會得到資金。 提出一個新的機器人執行器也不適合這個程式。 這個基金計畫和我在今年年初提出並鼓吹的“將AI帶入物理世界”的想法非常一致。

與NRI不同，S＆AS將傾向長期自主性，很少或沒有人工作業員干預的系統。因此，

IPS將更多地強調將智慧、認知、感知、啟動和通信相結合的機器人平臺和網路系統。

可能有許多不同類型的IPS：識別IPS，任務IPS，反射IPS，知識豐富的IPS，倫理IPS和其他。該基金背後的NFS官員給出了IPS的更具體的定義。

認知 IPS

將具有長期自主性的高水準意識。高級別意識不僅包括對自己的能力和限制的認識，而且還可以從能力和限制預測可能的失敗。 IPS將需要知道什麼時候出錯，並制定應急計畫，以防止所有的故障。所以IPS可以自動運行很長一段時間安全。如果福島核電廠是認知IPS，可以避免毀滅性的福島第一核電站災難。認識IPS將盡可能透明，使得圍繞IPS工作的人可以容易地理解系統是什麼。如果IPS可以快速獲得所需的幫助，這將是更好的。所以IPS應該能夠與人溝通，並有效地解釋情況。

知識豐富的IPS

不僅是維琪百科

。

它應該能夠使用互聯網上的所有內容來學習和理解。首先，互聯網上的知識應該以IPS可以使用的方式表示，表示可以是符號、圖、概率的或混合的。然後，良好表示的知識可以被推理產生有用的指導和決定，並幫助學習。

例如，知識豐富的IPS可以從Youtube學習烹飪。首先將烹飪視訊轉換為功能物件導向的網路，然後使用網路學習和推理如何烹飪飯菜。

任務執行IPS

應該能夠從我們採取抽象級別的命令，並理解它們，並找出應該做什麼以及如何做。例如，一個任務執行IPS應該能夠從一個人“我想要燉牛肉吃飯”，並找出這個人真正想要什麼樣的燉牛肉，包含什麼其它東西；如果不是所有的原材料都在冰箱裡，用什麼代替以及如何做好。 IPS應該使用它的感測器和執行器找到所有的材料，從冰箱裡拿出來，把牛肉切成小塊，切碎其他材料，把它們放在鍋裡，把適量的水倒入鍋裡，加入鹽和其他成分，然後開始火燉。做好後，IPS應該準備餐桌，讓人知道晚餐準備好了。晚餐後，IPS應清理和洗所有的盤子。

因此，

IPS應該完全理解自然語言

，理解模糊的命令和周密生成可執行計畫，準確地識別在雜亂的環境中的物件，精確地感知3D環境，順利執行不同的抓取和操作動作。

反應IPS

應該能夠自我維持和自我演化。它應該監視其行為，感知和診斷問題，使其配置適應新的情況，並在需要時維護和修復自己。對於火星探測器來說，這是一個非常重要的功能，它在火星上獨自航行很多年，沒有支持和救援隊。 IPS應該不斷發展和變得更好。它可以通過探索不同的解決方案並積累知識，嘗試和錯誤，從觀察其他IPS或人類或環境變化，以及結合指令或更正來學習和改進。例如，反應IPS和一個五歲兒童一樣學習和成長。

道德高尚IPS

不應傷害人類。 IPS應該是一個好的公民，並獲得當前的道德規則和法律規則。道德高尚IPS不需要是律師。但它應該能夠使用常識來理解倫理和法律規則，並理解其行動的後果。因此，道德IPS應該避免法律禁止的行為或從倫理角度皺眉。良好的道德IPS應該能夠解決鎖死並解決由多個規則引起的衝突。比如，自動駕駛車肯定需要每天做出許多道德決定，為了避免對行人造成致命傷害，汽車可能必須碰撞到可能傷害乘客的牆上。汽車要決定是撞到行人，還是撞到牆上，傷害乘客。

終極S＆AS將是一個可以做上述所有的系統。

它可以感知自己的能力和限制，擁有我們已經積累了數千年的所有知識，做我們所做的一切，它完全符合道德和法律的考慮，並在沒有我們幫助下，不斷進化和變得更聰明 。

IPS可以是自主車輛。自主車輛可以感測其周圍環境，環境，其狀況和安全的長期自駕駛。它可以是一個服務機器人，瞭解使用者說的需求，並執行所要求的任務。它可以是一個無人駕駛的飛行器，不會飛進機場或白宮。它可以是一個手術機器人，可以做診斷，計畫和進行手術，不需要醫生參與。它可以是一個攝像機網路，從其收集的資料中學習，以便它可以檢測到威脅，找到嫌疑犯，解決犯罪，甚至防止犯罪發生。

該基金給出了一個非常鼓舞人心的未來願景和具體的研究目標。十年前，我預計機器人需要100年才能實現人的全部能力。現在，我認為通過S＆AS計畫，美國的研究人員將開始系統地向這個目標前進。我們將比我預測的更早到達這個目標。

NSF每年分配的資金總額不多。它只有1650萬美元，可以支援25到40個專案。但我想如果它蓬勃發展許多高度影響的研究成果，它可能會增加。小型和更專注的項目將有35萬到70萬美元的基金，更多的綜合性項目將有50萬到140萬美元的基金。

第一批這個基金資助的專案明年會公佈，拭目以待。