什么是人类数据，为什么负责任的采购很重要？

适用范围：Azure CLI ml 扩展 v2（最新版）Python SDK azure-ai-ml v2（最新版）

人类数据是直接从人类或关于人类收集的数据。 人类数据可能包括姓名、年龄、图像或语音剪辑等个人数据，以及遗传数据、生物识别数据、性别认同、宗教信仰或政治派别等敏感数据。

收集这些数据对于生成适用于所有用户的 AI 系统非常重要。 但请避免某些做法，尤其是可能导致数据参与者身体和心理伤害的做法。

本文中的最佳实践可帮助你与志愿者开展人工数据收集项目，确保所有参与者都受到尊重，并预见和减轻潜在伤害，尤其是弱势群体可能面临的伤害。 此方法意味着：

  • 贡献数据的人不会以任何方式受到胁迫或利用，他们可以控制收集哪些个人数据。
  • 收集和标记数据的人员受过足够的培训。

这些做法还有助于确保更平衡、更高质量的数据集以及更好地管理人类数据。

这些做法正在出现，我们正在不断学习。 下一节中的最佳实践可作为你开始开展负责任的人类数据收集工作时的起点。 这些最佳做法仅供参考，不应将其视为法律建议。 所有人类数据收集都应经过特定的隐私和法律审查。

一般最佳实践

当你直接从人员手动收集人工数据时，请遵循这些最佳做法。

最佳做法

为什么？

取得自愿知情同意。

  • 参与者应了解并同意数据收集及其数据的使用方式。
  • 仅出于原始记录的知情同意的一部分目的存储、处理和使用数据。
  • 正确存储同意文档并将其与收集的数据相关联。

适当补偿数据贡献者。

  • 不要在数据收集过程中对数据提供者施压或进行胁迫。 为他们投入的时间和提供的数据给予公平补偿。
  • 不适当的补偿可能是剥削性的或胁迫性的。

让贡献者对人口统计信息进行自我认同。

  • 如果数据收集器分配人口统计信息而不是数据参与者自行报告，则它可以 1） 导致元数据不准确，2） 不尊重数据参与者。

在招募弱势群体时预测危害。

  • 从弱势群体收集数据会给数据贡献者和你的组织带来风险。

尊重数据贡献者。

  • 在数据收集的任何阶段，与数据贡献者的不当交互都会对数据质量以及数据贡献者和数据收集者的整体数据收集体验产生负面影响。

仔细确定外部供应商的资格。

  • 具有不合格供应商的数据收集可能会导致低质量数据、数据管理不善、不专业的做法，以及数据参与者和数据收集器的潜在有害结果（包括侵犯人权）。
  • 批注或标记工作（例如，音频听录、图像标记）与不合格的供应商可能会导致低质量或有偏见的数据集、不安全的数据管理、不专业的做法，以及数据参与者的潜在有害结果（包括侵犯人权）。

在工作说明书 (SOW)（合同或协议）中与供应商明确沟通期望内容。

  • 缺少负责任的数据收集工作要求的合同可能会导致低质量或收集不当的数据。

仔细甄别地区。

  • 如果适用，在高地缘政治风险和/或不熟悉的地理区域收集数据可能会导致不可用或低质量的数据，并可能影响参与方的安全。

成为数据集的良好管理者。

  • 不当的数据管理和不良的文档记录可能会导致数据滥用。

注意

本文重点介绍有关人类数据的建议，包括个人数据和敏感数据，如生物特征数据、健康数据、种族或民族数据、从公众或公司员工手动收集的数据，以及与人类特征相关的元数据，如年龄、血统和性别认同，这些数据可通过注释或标签创建。

在此处下载完整的建议

收集年龄、血统和性别认同的最佳做法

为了使 AI 系统对每个人都正常工作，用于训练和评估的数据集应反映使用或受这些系统影响的人员的多样性。 在许多情况下，年龄、祖先和性别认同可以帮助大致了解可能影响产品对各种人员表现程度的因素范围。 但是，收集此信息需要特别考虑。

如果收集此数据，请始终让数据参与者自行识别（选择自己的响应），而不是让数据收集器做出假设，这可能不正确。 此外，应为每个问题加入一个“不想回答”选项。 这些做法显示了对数据参与者的尊重，并产生更平衡、更高质量的数据。

Microsoft 基于与目标利益相关者开展的三年研究，以及与 Microsoft 许多团队的合作，制定了这些最佳做法；这些团队包括：公平与包容性工作组、全球多元化与包容性、全球就绪、负责任 AI 办公室等。

为了使人们能够进行自我认同，请考虑使用以下调查问题。

年龄

你多大了？

选择你的年龄范围

[包括根据项目目的、地理区域和领域专家指导定义的适当年龄范围]

  • ＃ 到 ＃
  • ＃ 到 ＃
  • ＃ 到 ＃
  • 不想回答

血统

选择最能描述祖先的类别

可以选择多个选项

[包括根据项目目的、地理区域和领域专家指导定义的适当类别]

  • 祖源群体
  • 祖源群组
  • 祖源群组
  • 多重（多种族、混合血统）
  • 未列出，我将自己描述为：_________________
  • 不想回答

性别认同

你如何认同自己的身份？

可以选择多个选项

纳入根据项目目的、地理区域和领域专家的指导所界定的适当性别认同

  • 性别认同
  • 性别认同
  • 性别认同
  • 倾向于自我描述为：_________________
  • 不想回答

注意

在世界一些地区，法律将特定性别类别定为刑事犯罪。 数据参与者诚实地回答此问题可能很危险。 总是让人们选择退出。与地区专家和律师合作，仔细审查你计划收集数据的每一个地方的法律和文化规范。 如果需要，请完全避免提出这个问题。

在此处下载完整的指导。

后续步骤

有关如何处理数据的详细信息，请参阅：

若要在收集数据后处理数据，请按照以下操作指南操作：

  • Last updated on