该运用程序该当是 有用的、可靠的、可访问的和令人满意的 ，以供应良好的用户体验。

可用性

可用意味着运用程序有与其预期目的相同等的功能，比如自动评分过程或天生复习卡片。
自动评分过程的运用程序该当能够按照预设的标准给学生的作业准确高效地打分。
同样，天生卡片的运用程序该当能够根据它的数据制作出干系且多样的问题。

可靠性

可靠意味着运用程序能够稳定且无误地实行它的任务。
然而，人工智能和人类一样并不完美，也可能会出错。
运用程序可能会碰着缺点或非常情形，须要人工干预或改动。
您如何处理缺点？在本章的末了一部分，我们将先容如何设计人工智能系统和运用程序，实现协作和反馈。

可访问性

可访问意味着把用户体验扩展到不同能力的用户，包括残障人士，确保没有人被忽略。
通过遵照可访问性的辅导和原则，人工智能办理方案变得更加原谅、可用，并且对所有用户都有好处。

满意度

满意度意味着该运用程序利用起来令人愉快。
有吸引力的用户体验可以给用户带来积极的影响，匆匆使他们再次利用运用程序并增加业务收入。

并不是所有的问题都能用人工智能办理。
人工智能可以提升您的用户体验，无论是通过自动化手动任务还是个性化用户体验。

设计人工智能运用程序时，建立信赖非常主要。
信赖可以让用户相信运用程序能够做好事情、同等地供应结果，并且结果是用户所须要的。
这个领域的一个风险是不信赖和过度信赖。
当用户对人工智能系统有疑惑时，就会涌现不信赖，这会导致用户谢绝您的运用程序。
当用户对人工智能系统的能力估计过高，导致用户过分信赖人工智能系统时，就会涌现过度信赖。
例如，自动评分系统在过度信赖的情形下可能会让老师不去检讨一些试卷，以确保评分系统事情正常。
这可能会导致学生的成绩不公正或不准确，或者错过反馈和改进的机会。

确保把信赖放在设计的核心的两种方法是可阐明性和可控性。

可阐明性

当人工智能帮助做出决策（例如传授知识给后代）时，西席和家长理解人工智能是如何做出决策的非常主要。
这便是可阐明性——理解人工智能运用程序是如何做出决策的。
可阐明性设计包括添加人工智能运用程序能做什么的示例的细节。
例如，系统可以利用：“用 AI 总结条记，让复习更随意马虎”，而不是“开始利用 AI 老师”。

另一个例子是人工智能如何利用用户和个人数据。
例如，有学生角色的用户可能有基于他们角色的限定。
人工智能可能不能给出问题的答案，但可以帮助勾引用户思考如何办理问题。

可阐明性的末了一个关键部分是阐明的简化。
学生和西席可能不是人工智能的专家，以是对运用程序能做什么或不能做什么的阐明该当大略且易懂。

可控性

天生式人工智能在人工智能和用户之间建立协作，例如用户可以修正不同结果的提示。
此外，一旦天生输出，用户该当能够修正结果，从而给他们一种掌握感。
例如，利用 Bing 时，您可以根据格式、语气和长度定制提示。
此外，您可以对输出做出变动并修正输出，如下所示：

Bing 还许可用户掌握运用程序的另一个功能是能够选择加入或退出 AI 利用的数据。
对付学校申请，学生可能想要利用他们的条记和西席的资源作为复习材料。

设计人工智能运用程序，实现协作和反馈

正如前面提到的，天生式人工智能在用户和人工智能之间建立了协作。
大部分交互都是由用户输入提示，然后人工智能天生输出。
如果输出禁绝确怎么办？如果涌现缺点，运用程序如何处理？人工智能会责备用户还是须要韶光来阐明缺点？

运用程序该当内置人工智能来吸收和供应反馈。
这不仅有助于人工智能系统的改进，也可以与用户建立信赖。
设计中该当包含反馈循环，例如对输出的大略赞许或反对。

处理这个问题的另一种方法是清楚地传达系统的功能和限定。
当用户要求超出 AI 能力的内容时出错时，也该当有一种方法来处理这个问题，如下所示。

当用户须要人工智能无法供应的信息或者运用程序限定了用户可以天生择要的问题/主题时，系统缺点就会发生。
比如，一个只用有限科目（比如历史和数学）的数据演习过的人工智能运用程序可能不能回答关于地理的问题。
为理解决这个问题，人工智能系统可以这样回答用户：“对不起，我们的产品只能处理以下主题的数据…，您的问题超出了我的能力范围。
”

人工智能运用不是万能的，以是它们有时会出错。
在开拓运用程序的时候，您该当考虑到用户的反馈和缺点处理，并且用大略明了的办法来表达。