Please enable JavaScript.
Coggle requires JavaScript to display documents.
(第四組)Machines as teammates-A research agenda on AI in team collaboration -…
(第四組)Machines as teammates-A research agenda on AI in team collaboration
ABSTRACT
探索MaT的潛在風險和利益
研究(議程)包括三個設計領域跟17個二元性
Institution(機構)
組織和社會的結構和規則的設計。
像是機器隊友會有哪些權利與義務
Collaboration(協作;合作)
團隊、任務和合作流程的設計。
如何與他人進行社交 談話
17個dualities(二元性| 矛盾效應)-機器做為隊友加入團隊
具有17種不同的潜在利益或损害
Machine artifact(機器人工品)
外觀 感知 意識 設計等等
像是如何感知環境 學習知識
Introduction
研究議程幫我們了解
(1)在协同环境中设计机器队友时需要考虑哪些方面和概念
(2) (协作研究人员)如何在团队协作中研究,机器队友的设计以及机器队友对工作实践和结果的影响?
目的在提供一個研究議程
从819個研究问题中引出有意义的设计考虑主题和潜在的理论预测。我们以研究议程的形式呈现这一分析的结果
研究议程在三个设计领域之间是不同的
1.机器人工制品
2.协作
3.在团队协作中处理各种人工智能设计选择的机构
4.研究议程概述了17个矛盾的影响,双重性
2.Backround
2.1Collaboration technologies
成功协作面临的一些主要挑战包括
设计欠佳的任务
无效的协作工作做法
无法促进团队协作的信息系统不足
GSS
Level 1 等級1系統支援團隊中的溝通,如匿名或併行性(平行溝通) 。
Level 2 等級2系統支援資訊處理,例如投票或分類。
Level 3 等級3系統支援工作表現,自動指導人類的行為,要求澄清問題,提出建議或提供回饋。
CE
(1)协作目标
考慮集體目標,激勵個人目標個人為實現集體目標而付出的努力,以及目標的一致性,成員認為朝著集體目標努力會推進他們的個人目標。
(2)团队产品
關注團隊為實現其目標而將創建的工作產品團體和私人目標。
(3)团队活动
關注小組必須執行的活動順序創建組產品
(4)团队流程
關注協作模式和技術推動一個小組完成每一項活動。
(5)协作工具
關注工具能力的設計和配置該小組將需要實例化其程序
(6)协作行为
關注設計對人們事物的約束應該說和做他們的工具來實例化程序來通過創建可交付成果以實現其目標的活動。
人群協作會遇到的一些問題
(1)个别人群成员不太可能相互交流
(2)他们可能对赞助组织是匿名的
(3)人群任务通常是短期的
2.2 AI加入了團隊
目前與AI的協同合作有點問題
Method(方法)
對65個協同研究員進行了機器隊友的調查,收集研究問題
以利用這些研究問題,發展一個研究議程,
而這個研究議程探討AI機器隊友的設計和效果
3.1 調查設計(Suvey design)
包含三個部分
第一部分:目標在於讓參與者進入創造性思考模式以設想機器將成為我們隊友的未來。我們提供參與者虛構的場景,實際的介紹AI機器隊友
從資訊中得出推論的技術及新的見解,並提供相關資訊以檢驗假設
透過辯論提供有效的議題證據和論證,提出非結構化問題的解決方案,與人類一起參與決策過程
第二部分:協作團體必須回答哪些研究的問題,才能從當前最新技術發展到我們設想的 「以機器為隊友的未來」
一開始,參與者先進行一場自由發想腦力激盪的活動,在這裡他們會盡可能地想出研究問題
接著,他們將會得到一些腦力激盪的提示
我們使用情感,認知,溝通,經濟,道德,組織,物理,政治,社會,技術 這幾個面相
作為提示來調整腦力激盪的手法
類別的多樣性應確保具有不同背景的研究人員可以為腦力激盪任務做出貢獻。
第三部分:我們收集了參與者的人口統計資訊(職業水平,專業知識,性別和國家)並徵求了其他定性反饋。
參加者也可以選擇使用電子郵件來接收本研究的結果。
3.2 樣本
3.3 流程分析
Design areas for AI human-machine collaboration
第一階段的討論了AI協作的設計領域
我們總共分為三個設計領域,這三個設計領域分別提供了設計所需面對的挑戰的研究問題。分別為:
4.2 collaboration design(協作設計)
1.團隊設計
人機團隊根據人類與MaT的核心能力來設計
MaT可能積極參與問題解決
MaT可能扮演領導者的角色
設計時可能需要考慮團隊的規模以及團隊是實體的還是線上工作的
研究問題:
機器隊友和人類隊友如何分工?
MaT執行特定任務時,理想的團隊規模是多少?
2.任務設計
團隊的設計可以根據最適合這種人機混合團隊的任務類型來設計 (168_5)。
MaT可以是專才或通才
協作任務可能是自動化或僅限於人類
研究問題
決定一項任務是否可以由機器、人或通過人機協作執行的標準是什麼?
我們如何辨識出可以從人類和機器知識的整合中受益的應用程序和問題?
我們如何在通才MaT跟專才MaT之間做出選擇?
工作實踐設計
MaT可能被訓練來接受特定協作流程,例如協調、知識共享或評估
這可能會引發創造力、集體思維或解決問題的變化
溝通方式可能會極大地影響這些協作過程的有效性
當協作科技從工具的腳色變成夥伴的腳色,尋找新的方法來建模和設計新的協作和決策過程變得重要
研究問題:
我們如何讓MaT參與協作過程?
我們如何以人為本的方式,系統地設計MaT?
以工程協作流程塑造未來協作流程的工具和技術,目前準備得如何?
4.1 machine artifact design(機器人工品設計)
這個設計領域關係到設計機器隊友的各種可能性
包括7個確定的主題
換句話說,就是连接相似或密切相关的机器队友设计选择
這個設計領域(機器人工品設計) 解決了:
外觀(Appearance)
研究問題:(1) 機器隊友應該會是什麼樣子?
这个設計領域解决了
机器队友应该是什么样子的问题
(178
3)。设计方面的选择需要决定机器的队友是否应该有一个性别和哪个(231
7) ,是否应该作为一个卡通形象,化身,或类人形象(231
9,256
1) ,是否应该有一个性格(231
12) ,或者是否人类应该通过文本或语音交流(168
1)。这些贡献总结在以下研究问题中:
感知和意識(Sensing & awareness)
感知與意識: 這個主題主要探討的是機器夥伴應該配備什麼樣的感測器: eg. camera,溫度,動作,氣味,心律,觸碰感應。
該主題的研究問題衍伸至機器隊友可以在多大程度上推斷出情感、解釋肢體語言、在文字交流中理解對方意圖
機器隊友如何感知環境?
學習和知識處理
機器隊友應如何學習並與人類隊友分享他們的知識。除了建立和維護知識庫,學習還解決機器如何閱讀肢體語言,區分重要要求和社交閒談,設定和實現目標或具有道德原則 。機器隊友可能擁有巨大的錄音能力,以記住他們與其他人類隊友互動的歷史,並改善他們的經驗。可能"忘記"也很重要。
機器隊友如何選擇並獲取可以處理的數據?
機器隊友如何學習處理和忘記資料?
機器隊友如何協作夥伴分享他們的經驗?
對話(Conversation)
與隊友進行互動和社交的能力。這可能涉及對談,
理解反諷或專業術語,有禮貌或政治正確互動的能力。
如何設計機器隊友的語言和非語言交流,使其適合協作情況?
結構 Structure
重點介紹了功能正常的機器隊友的關鍵結構元件。哪種設備,
例如分佈式設備深度學習架構,
機器隊友將運行,是否將其小型化或緊急“關閉/開啟”按鈕。
此外,機器隊友的生產和使用可能會產生大量的能源需求,這需要在其架構中加以考慮。
機器隊友的關鍵元件是甚麼?它們如何相互聯繫?
如何設計節能機器隊友?
可見性和7.可靠性(Visibility & reliability)
可見性:為了確定機器隊友的錯誤行為(203_3),設計人員可以使人類可以理解深度學習演算法(237_2),以便他們可以說明自己的意見(256_4)並可以由人類在各個階段進行審查(237_1)
可見性:MaT如何解釋他們的行為?
可靠性:設計人員可能需要找到確定機器角色的行為何時出現缺陷或何時機器角色產生不良意圖的方法(303_3),當他們故障的時候可以考慮轉移他們的"個性"
可靠性:如何建立足夠可靠的系統並透明化其意見的可靠性?
4.3 institution design(制度(機構)設計)
責任與義務
MaT可能會執行操作或做出導致問題的決定。
組織和政府可能需要澄清,機器、設計師或人類隊友是否有責任和義務
以及明確澄清MaT和其他利益相關者的權利和義務需要明確
也就是說,設計選擇涉及法規
研究問題:
誰對機器的決定負責?
需要哪些治理方法來設置機器協作者工作環境?
MaT有哪些權利和義務?
教育與訓練
當 MaT 加入團隊時,人類很可能需要適應和改變。
而組織可以通過培訓工作人員掌握跟機器協作所需的協作能力來促進這種變化 (178_10)。
在社會層面上,我們可能會看到教育計劃的變化,以便學生能在MaT的開發、和MaT的高效合作、驗證MaT變得精明。
研究問題:
我們該如何改變我們的教育計劃,來培養學生與MaT合作的能力?
應該如何培訓人員與機器團隊協作
DUALITIES IN EFFECTS
研究结果的第二部分讨论了人工智能人机协作中可能产生的概念二分法或关联二分法形式的二元性。概念二分法指的是设计人工智能团队协作对理论概念的矛盾效应。关联二分法是指设计的 AI 团队协作中两个理论概念之间的矛盾关联。
DISCUSSION & CONCLUSION
6.1 研究議程的創新性
本文的目的是製定一個研究議程,以支持協作研究人員去研究社會技術系統,其中機器隊友與人類隊友協作以實現一個共同的目標。
根據對65位合作研究人員的調查,我們將3個設計領域和17個二元性結合在一個MaT研究議程中。
;這些領域引導人們注意,設計AI團隊協作時所會影響之17種二元性的積極或消極方面的條件。
而3個設計領域machine artifact, collaboration, institution是相輔相成的,其12個主題為基礎的決策,將定義機器隊友的組成還有他的環境。
因此,研究議程強調了設計選擇和結果之間的相互依賴關係,這是解開二元性模棱兩可的理論的預測關鍵。
此研究議程與以前的重點不同,是因為它強調需要在團隊協作中構建和測試AI以產生有益的結果,不僅對團隊而且對組織和社會也是如此。
MaT的研究議程還致力於組織設計好的AI團隊合作的最相關結果。
-「預期效果的矛盾性」與「AI是一種雙重用途技術」的觀點相吻合。它可以用於有益和有害的目的。(與先前的其他論文當中的論述相符)
6.2 研究意義
概述的二元關係和設計領域可以幫助來自不同領域(例如信息系統、人機交互或組織心理學)的協作研究人員通過以下三種方式,設計對MaT的研究調查:
1.二元性可以為已經將機器團隊成員納入其組織流程的組織內的探索性研究提供定位點。
2.研究人員可以使用設計領域來代表機器團隊成員及她的環境、開發原型,並在實驗室中進行測試。
3.這項研究也可以讓我們了解效果和設計選擇,可以佐證未來的研究協作相關的理論以及它的邊界條件。
6.3 實際意義
這項研究的發現對於打算在工作場所採用或已經採用虛擬助手、對話代理或其他AI協作技術的管理人員可能已經很有用。
兩種類型的二元性都使管理人員可以保持警惕,以了解在人機工作環境中引入高性能AI可能產生的影響。
同樣,設計人員可以從使用MaT研究議程中受益,因為它概述了可以與一個或多個二元相關的幾個設計因素。
6.4 侷限性和未來工作
這項探索性研究具有一些應考慮的局限性。
該研究發現了3個設計領域,即機器工件設計,協作設計和機構設計,並確定了二元性是這些領域中設計選擇的結果。
由此產生的研究議程不能被認為是“完整的”。
研究問題和陳述來自協作研究人員,而不是從業人員。因為本研究中設想的機器隊友尚未在該領域進行充分研究。
我們的結果可能偏向於研究人員認為與研究相關的內容,而不一定能完全抓住專業人士的興趣。
關聯二分法之間指出的關係部分基於內容分析的解釋,在任何單個研究問題中都不一定如此。
因為我們還沒有足夠的理解來為效應的方向爭論。
因此,未來的研究應探討所建議的關聯二分法在多大的程度上相關,並要可以解釋機器隊友存在時協作實踐後的結果變化。