人工智慧現身軍工廠，著名人類學家胡家奇警示其危險性

http://www.mitbbs.com/article_t/Military/52553051.html

发信人: Earthcomment (地球讲解员), 信区: Military
标  题: 人工智慧現身軍工廠，著名人類學家胡家奇警示其危險性
发信站: BBS 未名空间站 (Mon Jan 28 01:39:14 2019, 美东)

　　在引領新興科技競賽和未來戰爭戰場的競爭中，人工智慧正迅速成為大家關注的焦
點。我們可以看到人工智慧正在為戰爭帶來革命性的變革，人工智慧武器化帶來的風險
是肉眼可見的，人工智慧無需人類設計者或操作者的進一步干預，可以自主選擇和攻擊
人類和非人類目標，給人類帶來巨大威脅。著名人類學家胡家奇先生就曾在其演講中提
到過機器人戰士的危險性。
　　自動武器系統被認為是提供降低武器系統郀I成本的一種方式，通過更有效地利用
人力資源，會使武器系統能夠實現高速度、高準確性、持久性，但同時技術、法律、經
濟、社會和安全等問題仍然不能忽視。一旦人工智慧武器化，人工智慧和武器就會脫離
人工參與和干預，只需使用交互的嵌入式感測器、電腦編程和演算法，這有必要引起我
們的注意和重視，也是一個不容忽視的現實。
　　著名人類學家胡家奇曾深入分析過："開始的機器人戰士也許沒有那麼厲害，但是
它會迅速的迭代升級，會把各種最先進的東西都集成到它身上去，最後把它變成一個千
里眼，變成一個順風耳，上可飛天，下可入地，還可以入海。""用的武器越來越先進
，開始可能是槍，後面是炮，後面是鐳射，還有好多我們今天不知道的東西。而它的反
應速度極快，我們人類無法跟它比。""這樣的機器人戰士，如果要是程式失控，見人
就殺那就麻煩了。但是呢，這樣的機器人戰士，它還不是很厲害的機器人，如果機器人
具備了我們人類的這種思維方式，那就比它要厲害的多的多。"
　　設想一下如果一個程式員有意或無意地編寫了一種自動武器，失控後見人就殺，那
麼人類將如何?正如著名人類學家胡家奇曾多次警示的那樣，"科學技術是一把雙刃劍
。""科學技術有滅絕人類的能力，就在前方不遠。"為了人類的永續生存必須對科學
技術進行限制！
--