一個機(jī)器人帶著小狗外出，小狗進(jìn)入草坪攻擊小孩，草坪圍欄上寫著“禁止踐踏”，這種情況下機(jī)器人是選擇進(jìn)入草坪制止小狗，還是遵守規(guī)則站在外面？

在CNCC2019（中國計(jì)算機(jī)大會）的分論壇“人工智能開發(fā)的道德邊界在哪里？”上，中科院自動化研究員曾毅舉例讓大家思考，人類到底該賦予機(jī)器何種智能？

以“智能+引領(lǐng)社會發(fā)展”為主題的CNCC2019于10月17日至19日在蘇州召開，這是一個已經(jīng)延續(xù)16年的學(xué)術(shù)技術(shù)產(chǎn)業(yè)盛會。為期3天的大會包括3場大會主題論壇、79余場前沿技術(shù)論壇，15位國內(nèi)外計(jì)算機(jī)領(lǐng)域?qū)＜?、企業(yè)家作了大會特邀報告。與往年不同的是，除了豐富的技術(shù)內(nèi)容，今年大會把人工智能倫理作為一個重要議題。大會指導(dǎo)委員會主席、中科院院士梅宏解釋說，這是科技人員應(yīng)該考慮的事情。

近幾年，人工智能發(fā)展迅速，很多應(yīng)用改變著日常生活，推進(jìn)了社會發(fā)展，但是也出現(xiàn)了諸如算法歧視、隱私侵犯等新問題。關(guān)于人工智能的法律、倫理、社會問題研究提上了很多部門和機(jī)構(gòu)的議事日程。

今年5月，曾毅所在的研究中心成立時，聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動化研究所等單位，共同發(fā)布了《人工智能北京共識》，提出人工智能的研發(fā)、使用、治理，應(yīng)該遵循有益于人類命運(yùn)共同體構(gòu)建和社會發(fā)展的15條原則，例如“善用與慎用原則”等。

6月，科技部對外公布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享等8項(xiàng)原則。

今年4月，歐盟委員會也發(fā)布了人工智能倫理準(zhǔn)則。據(jù)統(tǒng)計(jì)，目前各國政府、各類組織、研究機(jī)構(gòu)和產(chǎn)業(yè)界頒布的有關(guān)人工智能倫理準(zhǔn)則提案已有50多個。

但是，曾毅發(fā)現(xiàn)，這些準(zhǔn)則因?yàn)楦髯砸暯遣煌婕暗姆矫娌⒉荒芟嗷ジ采w。他認(rèn)為，眼下急需的是對人工智能風(fēng)險、倫理與治理進(jìn)行戰(zhàn)略研究，讓一些思考模型化、算法化、系統(tǒng)化，確保人工智能向更可依賴和對社會有益的方向發(fā)展。

復(fù)旦大學(xué)生命醫(yī)學(xué)倫理研究中心、應(yīng)用倫理學(xué)研究中心主任王國豫教授認(rèn)為，人工智能倫理起源于人們對人工智能技術(shù)風(fēng)險的恐懼和擔(dān)憂，人工智能的倫理問題不是單個的技術(shù)問題，也不是算法問題，而是源于技術(shù)系統(tǒng)和人的社會生活系統(tǒng)的交互作用，人工智能倫理應(yīng)該從可能性推測走向可行性探索。當(dāng)然，這需要更多跨學(xué)科合作。

北京大學(xué)長聘副教授吳天岳近幾年關(guān)注人工智能、基因編輯等前沿科技帶來的倫理挑戰(zhàn)。他認(rèn)為，沒有現(xiàn)成的倫理規(guī)則用于人工智能，所以人類要有前瞻性。技術(shù)本身不是道德中立的，但是目標(biāo)要有道德標(biāo)準(zhǔn)。所以人工智能開發(fā)者要有職業(yè)倫理意識，要讓技術(shù)人員明確，人工智能是為人類核心價值服務(wù)，不是為資本和權(quán)力服務(wù)的。他提出，人與人工智能要建立新型互動關(guān)系。

據(jù)介紹，2018年，中國科學(xué)院大學(xué)開設(shè)了《人工智能哲學(xué)與倫理》課程，北京大學(xué)、浙江大學(xué)、西安交通大學(xué)等高校也在陸續(xù)開設(shè)人工智能倫理相關(guān)課程。

來源：環(huán)球網(wǎng)