易採取的協助與重大誤解：構想化操作化的相互心靈理論

設計小說允許我們原型化未來。它們使我們能夠檢視新興或不存在的技術，並檢視其影響。我們呈現三個設計小說，用以探索在人類使用者與一名（或多名）AI代理之間操作化相互心靈理論（MToM）的潛在後果。我們利用這些小說探索許多方面，包括透過互動如何塑造對方的模型、這些模型之間的差異如何導致失敗，以及人類的知識與技能如何使AI代理能代替人類行動。我們透過兩個視角檢視這些方面：一個在MToM增強人類之間互動並導致人機協作的觀樂觀視角，以及一個在MToM若失靈或對齊不良導致問題結果的反景觀。我們的工作為以人類為中心的MToM研究提供了理想化的願景，同時警示若錯誤實施時的後果。