機器人發展引發倫理討論：怎樣與人當好“合伙人”
15日，2018世界機器人大會在北京亦創國際會展中心開幕，展示全世界機器人產業的最新成果。為期3天的論壇上，由機器人發展引發的人工智能倫理和法律話題就是議題之一。
應當建立規范機器人及其使用行為的法律框架
在國際人工智能界，不少人認為人工智能會對人類產生巨大威脅，呼吁不要開發人工智能自主武器，警惕人工智能的潛在風險。他們討論的人工智能，通常指的是未來能自主進化、有類人意識的強人工智能，而當前應用的多是擅長單項任務、完成人類指令的弱人工智能。即便如此，人工智能的迅速發展帶來的挑戰已經逐漸顯現。
為保護隱私，人們發布照片或視頻時，會打上馬賽克覆蓋人臉，但美國一個研究小組開發了一套機器學習算法，通過訓練，神經網絡可以識別圖像或視頻中隱藏的信息。
時下，一些機器人應用到兒童和老人陪護中。中國社會科學院哲學研究所研究員段偉文認為，機器人與兒童對答、給老人喂飯等行為看似簡單，長期相處可能使人類對機器傾注感情、產生依賴，有必要設置防止過度依賴機器人的原則。此外，無人駕駛汽車發生交通事故怎么界定責任，醫療外科手術機器人出現意外怎樣處置隨著智能機器人深入參與人類生活，專家認為，如何建立規范機器人及其使用行為的法律框架，m.haojoj.com，成為人工智能和機器人產業發展無法回避的重要問題。
清華大學人工智能研究院院長、中科院院士張鈸曾表示，當前的人工智能與人類智能本質上是不同的。與人類相比，人工智能系統抗干擾能力差，推廣能力弱，甚至可能犯大錯。因此使用這樣的人工智能系統需要小心。
思考與智能機器的相處模式，控制不良影響
人工智能的發展幾經波折，也在不斷進化。
人工智能及其智能化自動系統的普遍應用，不僅僅是一場結果未知的科技創新，更可能是人類文明史上影響深遠的社會倫理試驗。段偉文說。
北京師范大學哲學學院教授田海平表示，機器深度學習和算法體系，使得智能體具有了一種準人格或擬主體的特性。當前，阿爾法狗、醫療機器人沃森和智能伴侶虛擬機器人微軟小冰仍屬于弱人工智能，離真正的智能主體還比較遠。即便如此，它們也已經呈現改變人類形態的發展趨勢。未來假若強人工智能出現，并深度介入人類事務，那么，我們必須提前思考人類如何與之相處的問題，控制它的不良影響。田海平說：人工智能是否以及如何為自己的行為負責，這仍然且始終是技術難題。
近年來，國際人工智能界日益重視人工智能中的倫理與法律問題，并推動相關技術標準及社會規范的研討和制定。2017年1月，一個國際學術會議制定并發布了人工智能23條倫理原則，其中包括，人工智能研究的目標應該建立有益的智能，而不是無向的智能；人工智能系統的設計和運作應符合人類尊嚴，權利，自由和文化多樣性的理念等。電氣和電子工程師協會（IEEE）也頒布了《人工智能設計的倫理準則》，試圖從工程設計和生產的角度，提出人工智能的倫理標準。
我國人工智能研究及實踐走在世界前列，但在相關機器倫理、立法研究和安全標準等方面起步相對較晚，近些年正在積極加強這些方面的研究。
有專家表示，人工智能倫理法律等涉及科學界、企業界、哲學、法學等多個領域，有必要成立應對人工智能發展的聯盟組織，吸納各方面的力量，共同推進相關研究。
運用算法，將人類道德規范體系嵌入智能機器
段偉文說，人工智能系統的擬主體性，使得它們的行為可以看作是與人類倫理行為類似的擬倫理行為。因此，人工智能界在探討能不能運用智能算法，將人類的價值觀和道德規范體系嵌入到智能機器中。有專家認為，這既是人工智能未來愿景，也是當前面臨的最大挑戰。
田海平說，把道德代碼嵌入機器，是人工智能發展的必然趨勢。缺少這一步，自動駕駛、無人機、助理機器人等智能體就不可能進入人類生活。機器在自主性上達到了人類高度后，它在做決策時，只有遵循道德算法，才能發展各種各樣的功能。
段偉文介紹，讓機器符合人類道德規范，學界大體有3種設想：一是自上而下，即在智能體中預設一套倫理規范，如自動駕駛汽車應將撞車對他人造成的傷害降到最低；二是自下而上，即機器通過數據驅動，學習人類的倫理德道規范；三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其復雜的邏輯并及時糾正可能存在的問題。
人工智能倫理研究目前沒有一套普遍原則，因此可以從應用中遇到的實例出發，找到價值沖突點，討論需要作哪些倫理考慮。段偉文說，KUKA機器人示教器維修，比如針對偏見，有必要追溯到機器學習的數據中，完善數據信息，并改進算法，讓人工智能判斷盡量客觀公正，符合人類的價值觀。
盡管人工智能發展存在許多潛在問題，工業機器人維修，但更多人對技術應用的前景表示樂觀。他們認為，人工智能能提供更安全、更智能的生活體驗，不能因為技術潛在的不足而因噎廢食，在提前布局，防范可能出現的挑戰的同時，也要利用新技術來應對風險。
以隱私安全為例，人工智能并不是隱私的天敵。北京大學信息科學技術學院教授郭耀說，利用人工智能技術能夠應對一些常規方法難以應對的安全問題。比如，基于行為分析，人工智能可以快速檢測出惡意軟件，通過機器學習還能及時檢測異常網絡流量行為，預警黑客入侵，從而提升網絡安全防御水平。
張鈸說，不管人工智能如何發展，基本理念應該不是用智能機器代替人，而是要協助人做好工作。人和機器各有優勢，要互相了解才能實現人機協作，但人還是人機關系的主導者。如此，才可能將人工智能引向人機合作的發展道路。