能否使用澳大利亚客户的数据训练AI模型?
- 发布于
- 法律截至
要点
- 使用客户记录训练或微调(fine-tuning)模型,属于对个人信息的使用(use),因此适用澳大利亚隐私原则第6条(Australian Privacy Principle 6,下称“APP 6”),即《隐私法》中规范个人信息使用和披露的规则。如果训练并非收集该等记录的目的之一,则须取得客户同意,或符合某项例外(exception)。通常适用的例外是:客户会合理预期该训练,且训练与原始目的相关。如果记录包含健康信息或其他敏感信息,训练须与原始目的直接相关。
- 澳大利亚信息专员办公室(Office of the Australian Information Commissioner,下称“OAIC”)认为,在收集客户数据之后才在隐私政策(privacy policy)中加入AI训练,通常本身并不会改变客户的合理预期,因此不能据此使用该等数据进行训练。如果客户不会明确预期训练,OAIC建议征求客户同意,或清楚说明训练用途并给予客户充分时间选择退出(opt out)。
- 经去标识化、任何人均无法被合理识别(reasonably identifiable)的数据,不受《隐私法》规制。例如,医学影像服务商I-MED将患者影像去标识化后,提供给一家AI开发商,用于训练辅助影像诊断的模型。2025年7月,OAIC结束了对I-MED的初步问询(preliminary inquiries),不再采取进一步行动,理由是相关数据已不再属于个人信息(personal information)。OAIC同时指出,结束问询并不代表其认可I-MED的做法。
- 公开网站上的个人信息并非可以随意抓取用于AI训练。截至2021年,美国公司Clearview AI已从包括社交媒体在内的互联网上抓取逾30亿张图片,用于构建人脸识别搜索工具。澳大利亚信息专员(Australian Information Commissioner)认定,这些人脸图片属于未经同意收集的敏感信息,并宣告Clearview必须停止收集澳大利亚人的图片,并销毁已持有的图片。经复审(review),行政上诉审裁处(Administrative Appeals Tribunal)同意Clearview未经同意收集了敏感信息,但并未认定该收集行为不公平。该裁定(determination)仍然有效。在2025年作出裁决的Court Data Australia and Office of the Australian Information Commissioner一案中,行政复审审裁处(Administrative Review Tribunal)维持了信息专员关于Court Data Australia以不公平方式收集个人信息的认定。该企业将法院网站上的庭审日程表复制到一个付费检索的数据库中。审裁处认为,公共互联网上的信息并非任何人都可以随意获取和使用。
- 训练AI的相关规则可能发生变化。2026年8月31日至9月18日,澳大利亚政府就《2026年隐私修正(个人数据保护)法案》(Privacy Amendment (Personal Data Protection) Bill 2026)的征求意见稿(exposure draft,即提交议会前公开征求意见的法案草案)征求意见。该草案将以单一标准取代现行有关收集、使用和披露的分别规则:即在具体情况下,对个人信息的处理是否公平合理(fair and reasonable)。截至2026年11月4日,政府仍在审议该草案。
假设贵公司的产品团队保存了三年来客服人员与澳大利亚客户的聊天记录,并希望用这些记录微调(fine-tuning)一个AI模型。微调是指用公司自己的示例对现有模型作进一步训练,使其能像客服人员一样回答客户的问题。
团队能否这样做,取决于收集这些聊天记录的目的,因为澳大利亚的主要隐私法律《隐私法》将个人信息的使用与收集目的挂钩。如果训练并非收集目的之一,公司须取得客户同意,或符合某项例外。与训练通常相关的例外仅在以下情况下适用:客户会合理预期该训练,且训练与收集聊天记录的目的相关。如果聊天记录包含健康信息或其他敏感信息,训练须与收集目的直接相关(directly related),而不仅仅是相关。1
许多公司以为,只要在隐私政策中加入AI训练,即可解决这一问题。负责执行《隐私法》的联邦监管机构OAIC认为,对于公司已经持有的数据,这种做法通常行不通。原因在于,客户的合理预期主要取决于收集数据时被告知的内容,而不是隐私政策事后的表述。2
《隐私法》适用于哪些公司?
《隐私法》适用于澳大利亚公司,以及在澳大利亚开展业务(carry on business in Australia)的境外公司,但符合小企业豁免的除外。3 如果贵公司位于澳大利亚境外,可参阅另一篇关于境外公司的文章,了解《隐私法》何时适用。
年营业额不超过300万澳元的企业,通常作为小企业经营者(small business operator)享有豁免,本文讨论的规则不适用于该等企业。但并非所有小企业都可豁免。例如,无论营业额多少,提供医疗服务(health service)并持有健康信息的企业,或者买卖个人信息(例如出售客户名单)的企业,均不得豁免。享有豁免的小企业也可以选择加入(opt in),从而像较大企业一样受《隐私法》约束。4
客户数据进入训练集后是否仍属个人信息?
客户数据进入训练集(training set,即模型学习所用的示例集合)后,通常仍属个人信息。个人信息是指关于已识别个人,或可从中合理识别的个人的信息或意见,无论其真实与否。5 因此,客户账户中的错误记录,例如客户实际按时付款却被记为逾期,仍然是关于该客户的个人信息。
客服聊天记录、账户记录和上传的照片,只要能够从中识别出某人,即属个人信息。OAIC认为,模型生成的关于已识别或可合理识别个人的内容,同样属于个人信息。这包括模型对某人作出的推测,例如客户可能的收入;也包括模型当作事实呈现的虚假陈述,即“幻觉”(hallucinations),以及某人的逼真虚假图像、视频或音频,即“深度伪造”(deepfakes)。6
何为敏感信息?
敏感信息是《隐私法》给予更严格保护的一类个人信息,包括健康信息(含疾病或残障信息),以及关于种族或民族、宗教信仰或性取向的信息。拟用于自动验证或识别个人身份的生物识别信息(biometric information),例如人脸图像或指纹,也属于敏感信息。为此目的生成的个人特征数字记录,即生物识别模板(biometric templates),同样属于敏感信息。7 客户在客服聊天中描述自身病情的,该聊天记录即包含敏感信息。
就训练而言,有关敏感信息的三条更严格规则尤为重要:
- 公司收集敏感信息通常须取得同意。8
- 未经同意,公司通常只有在当事人会合理预期、且新目的与原始目的直接相关(而不仅仅是相关)的情况下,才能将敏感信息用于新目的。9
- 公司可以向关联公司(related company,即同一企业集团内的其他公司,例如母公司)传递非敏感个人信息。敏感信息则只有在取得同意或符合例外的情况下才能传递。10
去标识化数据是否不受《隐私法》规制?
经去标识化、不再涉及已识别或可合理识别个人的数据,不受《隐私法》规制。由于其已不再是个人信息,也就不可能是敏感信息。11 因此,去标识化是使数据脱离上述规则的一种途径。但OAIC将去标识化过程本身视为对个人信息的使用,并提示去标识化能否奏效取决于具体情境,且可能难以实现。12
自由文本形式的聊天记录说明了去标识化为何困难。在客户记录表格中,姓名和联系方式位于单独的列,可以直接删除。而在聊天中,客户会在文本任意位置、以自己的措辞提及姓名、地址、雇主或某个特殊细节,删除姓名的工具可能会遗漏这些内容。剩余的细节,例如某种罕见疾病和所在城区,与公司的订单记录等其他信息结合后,也可能锁定某个人。因此,仅删除姓名并不足够:只有在任何人都无法从聊天记录中被合理识别时,这些记录才算完成去标识化。13
OAIC对医学影像服务商I-MED(提供X光及其他影像检查)开展的初步问询表明,达到这一标准可能需要多个步骤。2020年4月至2022年1月,I-MED将患者影像和报告提供给Annalise.ai,该公司当时由I-MED与另一家公司Harrison.ai共同拥有。Annalise.ai利用这些资料开发和训练AI模型,以改进辅助影像诊断,即协助解读医学影像。患者未被告知,也未表示同意。14
在共享数据之前,I-MED采取了六项措施:将数据与其他记录隔离,并用文字识别软件扫描记录;对唯一标识符、姓名、地址和电话号码进行哈希处理(hashing),即替换为加扰代码,并在设定范围内偏移日期;将部分字段归入较宽泛的类别,使特殊病例不致突出;并对影像边缘及其附近的文字进行涂黑处理。15
技术措施并非唯一的保障。I-MED的合同还禁止Annalise.ai实施任何可能使数据可被合理识别的行为,禁止其披露数据,并要求其安全存储数据。16
这些措施合在一起,并未完全消除患者被重新识别的风险,但已将风险降至足够低的水平,并辅以健全的数据治理(data governance),即对谁可以使用数据以及如何使用的明确内部规则和控制。隐私专员(Privacy Commissioner)因此认定,所共享的数据已不再属于个人信息。基于这一点,并考虑到少数意外披露情节轻微且已得到处理,隐私专员结束了初步问询,不再采取进一步行动。尽管如此,OAIC于2025年7月发布的《I-MED初步问询报告》(Report into Preliminary Inquiries of I-MED)指出,结束问询不应被理解为认可I-MED的做法。17
公司何时可以将客户数据用于新目的?
公司只有在取得客户同意或符合某项例外的情况下,才能将客户数据用于训练模型等新目的。相关规则是APP 6,即《隐私法》中规定公司应如何处理个人信息的13项澳大利亚隐私原则(Australian Privacy Principles)之一。根据APP 6,为某一目的(称为主要目的,primary purpose)收集的信息,未经当事人同意,不得用于其他目的,除非符合某项例外。18 大多数例外针对特定情形,例如澳大利亚法律要求的使用,很少适用于公司自身的AI训练。有一项例外可能与健康信息相关:如果征求同意不切实际,且研究遵循根据《隐私法》批准的指引,机构可以未经同意,将健康信息用于与公共卫生或公共安全相关的研究。19
对于大多数训练而言,相关的例外包含两个要件,须同时满足:客户须会合理预期该使用,且新目的须与原始目的相关。对于敏感信息,新目的须与原始目的直接相关。20
OAIC的指引解释了第二个要件的要求。相关目的是指与原始目的有联系或关联的目的,且这种联系须超过牵强(tenuous)的程度,即不能过于薄弱或遥远。直接相关目的(敏感信息适用这一要求)是指与原始目的密切关联的目的,但新的使用不必是实现原始目的所严格必需的。在OAIC的一个示例中,一名无法为患者治疗的医疗服务提供者告知同一诊所的另一名提供者,该患者需要治疗。该项披露与收集信息的目的直接相关。21
大多数用现有数据进行训练的计划,都卡在第一个要件即合理预期上。该标准是客观标准:所考察的是一个获得适当信息的合理人(reasonable person)会预期什么,而不是某位客户实际预期了什么。实践中,公司在收集数据时告知客户的内容尤为重要。22 在OAIC的一个假设示例中,一家社交媒体公司自2010年起为运营平台而收集用户帖子,并希望在2024年用这些帖子训练一个大型语言模型,再授权他人使用。OAIC认为该使用不被允许,因为用户不会预期这一点,且其与运营平台这一原始目的的联系过于薄弱。23
公司常走的两条捷径,通常并不能让其用已有数据进行训练变得合法。一是概括同意,例如同意数据将“按照我们的隐私政策”处理;这种同意过于笼统,不能视为对训练的同意。二是在收集数据之后更新的隐私政策或通知;这不会改变客户提供数据时的预期。24
在上述更新之后收集的数据情况较好,因为客户在提供数据之前已被告知训练用途。在另一个假设示例中,一家AI开发商事先告知用户,用户在其公开聊天机器人中输入的问题(称为提示词,prompts)将用于重新训练该聊天机器人的后续版本。OAIC认为这一使用很可能在用户预期之内。25
由此,对大多数训练而言,关键在于两条途径。同意与例外相互独立,公司只需具备其中之一,而非两者兼具。26 如果不清楚客户是否会预期训练,OAIC建议征求客户同意、提供清晰的选择退出(opt-out)机制,或两者并用。选择退出是客户表示拒绝的简便方式,只有在客户获得充分信息和时间行使该选择时,才算清晰。OAIC将这些措施定位为降低监管执法风险的手段。27
选择退出并不是第三条途径。它之所以有用,是因为OAIC认为,已被清楚告知训练用途但未选择退出的客户,可被视为默示同意(implied consent)。OAIC表示,只有在有限情形下,才适合以这种方式推定同意,例如选择退出选项清晰呈现、易于使用,且未与其他目的捆绑。对于敏感信息,OAIC表示公司通常应取得明示同意(express consent)。28
母公司能否使用这些数据训练模型?
母公司通常不能随意使用其澳大利亚子公司收集的数据进行训练。如果母公司本身受《隐私法》约束,其限制来自两条规则。第一条规则涉及向母公司传递数据。
对于非敏感信息,《隐私法》在集团内部设有例外:向母公司等关联公司披露该等信息,不构成侵扰隐私行为(interference with privacy),因此无需取得同意或符合例外。29 敏感信息则没有这一例外。敏感信息仍可为原始目的而传递,但为使母公司训练模型而传递,属于为新目的进行的披露(disclosure)。这需要取得客户同意,或者该披露属于客户会合理预期、且与原始目的直接相关的披露,即适用于敏感信息的更严格标准。30
第二条规则涉及母公司自身的使用。受《隐私法》约束的关联公司,被视为为澳大利亚公司的原始目的而收集该信息。因此,母公司与澳大利亚公司处于完全相同的地位:可以为该原始目的使用数据;若要为新目的使用数据训练模型,则须取得客户同意,或该使用属于客户会合理预期、且与原始目的相关的使用(对于敏感信息,须直接相关)。31
OAIC认为,如果母公司位于境外,向其传送数据还构成受APP 8规范的跨境披露(cross-border disclosure)。32 在传送数据之前,澳大利亚公司须采取合理步骤(reasonable steps),确保境外公司不违反澳大利亚隐私原则。采取这些步骤并不能免除澳大利亚公司的责任。如果境外公司随后实施了违反这些原则的行为,《隐私法》将其视为澳大利亚公司自身的违规,除非境外公司本身受《隐私法》约束。因此,不受《隐私法》约束的母公司同样不能随意使用这些数据进行训练。如果其对数据实施了违反这些原则的行为,将由澳大利亚公司承担责任。33
有两项范围较窄的例外,可同时免除采取合理步骤的义务和上述责任。一是澳大利亚公司合理相信,境外公司受一项以实质类似方式保护该信息、且客户可以执行的法律约束。二是客户在被明确告知澳大利亚公司此后无须采取上述步骤后,仍表示同意。34
关于向境外传送数据的规则,详见另一篇关于向境外总部传送客户数据的文章。
微调AI服务商的模型,情况有何不同?
大多数使用客户数据训练AI的公司并不会从零开始构建模型,而是微调或定制AI服务商提供的模型,且通常在AI服务商自己的平台上进行。同样的规则仍然适用,但还多了一项风险。
OAIC的指引将微调他人模型的公司视为开发者(developer),因此上文讨论的针对开发者的指引同样适用。35 OAIC认为,如果数据仍处于公司控制之下,将客户数据输入AI服务商的产品属于对数据的使用。例如,有保障措施确保数据不会被传出公司(包括不会传给AI服务商)的,即属此种情形。如果数据被提供给公司以外的人(例如AI服务商),且公司已不再对其具有有效控制(effective control),则属于披露:此时数据实际上已交给他人。无论属于哪种情形,公司都须取得同意,或该使用或披露属于客户会合理预期、且与原始目的相关的使用或披露。36
额外的风险在于AI服务商条款:一些产品的条款或设置允许AI服务商收集用户输入的内容(例如提示词和上传的数据),用于进一步训练其自身的模型。输入此类产品的客户数据会脱离公司控制,并可能出现在向其他用户提供的回答中。37 为管理这一风险,OAIC建议核查产品是否适合拟定用途、仔细审阅其条款和设置,并关闭会导致个人信息披露的功能。OAIC还建议开展隐私影响评估(privacy impact assessment),即书面评估项目将如何处理个人信息以及如何降低隐私风险。作为最佳实践(best practice),OAIC建议不要将个人信息(尤其是敏感信息)输入公开可用的AI聊天机器人。38
OAIC的建议只是最低要求。更进一步的实际措施包括:选择条款中承诺AI服务商不会使用您的数据进行训练的企业版服务;在合同中记录这一承诺,并对数据保留、存储地点和删除作出限制;以及在上传任何数据之前删除或遮蔽个人信息。
从公开网站抓取的数据如何处理?
公开网站上的个人信息并不能随意使用。使用自动复制内容的软件从网络上获取个人信息,即网页抓取(scraping),属于对个人信息的收集(collection),因此适用有关收集个人信息的规则:收集须为公司的职能或活动所合理必需(reasonably necessary),并以合法且公平的方式(lawful and fair means)进行。39 信息还须向其所涉及的个人本人收集,除非这样做不合理或不切实际(unreasonable or impracticable)。40
网页抓取是从网站而非从信息所涉及的个人处获取信息,因此进行抓取的公司须能够说明不直接向这些个人收集的理由。OAIC的指引列出了相关考虑因素:个人是否会预期从其他来源收集、信息的敏感程度、隐私风险,以及直接收集所需的时间和成本。仅有不便或成本因素并不足够。41
收集敏感信息(例如生物识别信息),即使是从公开网站收集,同样须取得同意,除非符合例外。42 OAIC还指出,公开可得并不意味着数据可以合法地用于训练;通过抓取构建数据集,一般属于隐蔽(covert)的收集方式,即对信息所涉及的个人隐而不宣的方式。43
由领导OAIC的澳大利亚信息专员于2021年作出裁定的Clearview AI案(Commissioner Initiated Investigation into Clearview AI, Inc (Privacy),下称“Clearview案”),显示了违反收集规则的代价。Clearview是一家在美国注册成立的公司,提供人脸识别搜索工具。该公司向信息专员表示,其仅向政府客户提供该工具,用于执法和国家安全。用户上传一张人脸照片,该工具即在其数据库中搜索可能匹配的结果。信息专员作出裁定时,该数据库存有逾30亿张图片。44 Clearview的网络爬虫(web crawler)从包括社交媒体在内的公开网站收集这些图片,并将每张人脸转换为数学向量(vector),即描述人脸特征的一串数字。45
Clearview主张,其仅收集公开可得的图片,并未处理任何个人信息。信息专员驳回了这一主张,认定人脸图片和向量属于个人信息,同时也属于敏感信息,因此未经同意收集这些信息违反了收集敏感信息须取得同意的规则。46
信息专员还认定该收集行为不公平,但后来复审该裁定的审裁处不同意这一点。信息专员认为,该收集具有隐蔽性:Clearview没有告知图片中的人,而其中很多人不大可能是自己上传这些图片的。Clearview抓取的社交媒体网站的条款也禁止抓取。信息专员承认,隐蔽收集并不总是不公平的。在信息专员看来,这次收集之所以不公平,是因为它同时具有不合理的侵扰性(unreasonably intrusive)。47
信息专员认为,有三个特点使该收集具有不合理的侵扰性。第一,这些图片属于生物识别信息:可用于通过人脸识别个人。第二,数据库涵盖数以百万计的人,包括儿童和犯罪受害人,而其中只有极少数人可能与执法调查产生关联。第三,Clearview收集这些图片是为了自身的商业目的,包括训练和改进其算法。48
信息专员还认定,Clearview违反了有关告知收集事项、保持信息准确以及在公司内部管理隐私的原则。据此,信息专员根据《隐私法》作出裁定,并宣告Clearview必须停止从澳大利亚境内的人处收集图片,并在90天内销毁已从其处收集的图片。49
Clearview请求行政上诉审裁处(Administrative Appeals Tribunal,现为行政复审审裁处,Administrative Review Tribunal)复审该裁定。该审裁处可以就政府决定的实体问题重新作出决定,即进行实体复审(merits review)。在2023年5月作出的裁决理由(reasons)中,审裁处同意《隐私法》适用于Clearview,并认定Clearview违反了收集敏感信息须取得同意的规则,以及关于在公司内部管理隐私的原则。50
但审裁处并不认为信息专员认定的另外三项违规已经成立,即不公平收集、未告知个人有关收集事项,以及未采取合理步骤保持信息准确。就公平性而言,审裁处的理由是:在不限制访问的情况下将图片发布到互联网上的人,已选择将其公开,因此用网络爬虫收集这些图片并不构成不公平。审裁处补充说,如果某人发布图片时理解其使用将受到某些限制,而收集行为违反了这些限制,结论可能不同。51 信息专员在2024年作出的另一项裁定,即*‘AHM’ and JFA (Aust) Pty Ltd t/a Court Data Australia (Privacy)*(下称“Court Data Australia案”)中,记录了上述结论。52
审裁处并未作出正式决定:它将应作出何种命令(orders)的问题留待日后的听证处理。53 OAIC表示,Clearview在该听证之前于2023年8月撤回了申请,因此Clearview案的裁定仍然有效。54
2024年初,有媒体报道称Clearview仍在收集澳大利亚人的图片。OAIC并未重新审理此案。其隐私专员Carly Kind仅考虑是否对Clearview采取进一步行动,并于2024年8月决定当时无须采取进一步行动。隐私专员指出,Clearview已在至少三个其他司法管辖区(jurisdictions)受到监管机构调查,并表示该裁定仍然有效。55
收集规则的适用范围不限于人脸。在Court Data Australia案中,澳大利亚信息专员审查了以Court Data Australia名义经营(trading as)的JFA (Aust) Pty Ltd公司的做法:该公司将澳大利亚各法院公布的每日庭审日程表(daily court lists),包括西澳大利亚州法院网站上的日程表,复制到一个数据库中。客户可以按姓名检索该数据库,并须付费查看详情。56
向OAIC投诉的人在裁定中仅被称为“AHM”,此人曾在西澳大利亚州面临六项刑事指控,这些指控后来均被撤销(dismissed)。该数据库中有52条从法院每日庭审日程表复制的记录,显示投诉人的姓名和上述指控,但没有任何内容显示这些指控已被撤销。投诉人通过一名代其交涉的维权代表(advocate)要求该公司删除这些记录,遭到拒绝。57
信息专员接受,该公司直接向每个人收集信息是不切实际的。但信息专员认定该收集不公平,并将本案与审裁处在Clearview案中的推理加以区分(distinguished)。投诉人并未选择公开这些信息:信息之所以出现在庭审日程表中,是因为法院公开审理案件。该网站的使用条款禁止未经许可将其内容用于任何商业目的。而且投诉人并不知道该收集行为,也不可能合理预期该收集。58
信息专员还认定,尽管该公司无法切实可行地逐一通知其收集了姓名的每个人,但其本应在自己的网站上发布一份完整的收集通知。59 信息专员宣告,该公司必须停止违反该网站条款、在当事人不知情的情况下从该网站收集个人信息,并须在30天内销毁以这种方式收集的信息。60
Court Data Australia申请复审,行政复审审裁处于2025年5月维持了该裁定。审裁处认为,以自动化方式收集本身并不构成不公平;但投诉人不可能合理预期其信息会从每日庭审日程表被转入一个永久性的商业数据库。庭审日程表服务于公开审判原则(open justice),且时效短暂;而该数据库无限期保存日程记录,并引导其用户作出不利推断(adverse inferences)。审裁处指出,将个人信息发布在公共互联网上,并不意味着任何人都可以随意取用(“a free for all”)。61
实践中,从网络构建训练集的公司应采取四个步骤,这些步骤源自上述规则和两个案例。
- 剔除不需要的澳大利亚人的个人信息。
- 将可识别的人脸视为须取得同意的敏感信息。在Clearview案中,信息专员认定(审裁处亦同意),人脸图片及由其生成的向量属于敏感信息。OAIC还指出,如果某人的图片暗示其种族或某种疾病等,或将被用于自动识别个人,该图片即属敏感信息。62
- 核查每个网站的使用条款,不违反条款进行收集。在Court Data Australia案中,该网站的条款禁止商业性再利用,信息专员和审裁处均将此视为该收集不公平的原因之一。63
- 如无法逐一告知每个人,应在公司自己的网站上说明收集情况。在Court Data Australia案中,信息专员和审裁处均认定该公司本应如此行事。64
小结:哪些数据可以用于训练模型?
下表汇总了上文就各类数据解释的主要规则。65
| 您的数据 | 能否用于训练模型? |
|---|---|
| 为提供服务而收集,且未告知客户会用于训练 | 只有在取得同意,或客户会合理预期训练、且训练与收集数据的目的相关的情况下才可以。现在更新隐私政策通常并不足够 |
| 在告知客户可能用于训练之后收集 | 如果训练是收集数据的目的之一,可以。如果只是告知客户数据日后可能用于训练,客户更可能预期训练,但训练仍须与收集数据的目的相关 |
| 包含健康信息或其他敏感信息 | 只有在取得同意,或客户会合理预期训练、且训练与收集数据的目的直接相关的情况下才可以 |
| 已去标识化,任何人均无法被合理识别 | 可以。该数据已不再属于个人信息,但去标识化过程本身属于对个人信息的使用 |
| 从公开网站抓取 | 只有在收集为合理必需、且以合法且公平的方式进行的情况下才可以。敏感信息(例如用于识别的人脸)通常须取得同意 |
违反上述规则有何后果?
违反上表中的任何规则(包括Clearview所违反的收集规则),均构成《隐私法》下的侵扰隐私行为,并可能导致民事罚款(civil penalty)。针对Clearview的裁定并未处以罚款,因为只有法院才能下令罚款。对于严重侵扰隐私行为(serious interference with privacy),经信息专员申请,澳大利亚联邦法院(Federal Court of Australia)或澳大利亚联邦巡回及家事法院(Federal Circuit and Family Court of Australia)可以下令处以民事罚款。对公司而言,罚款上限为5000万澳元,或违规所获利益的三倍(以较高者为准)。如法院无法确定该利益的价值,则以集团调整后营业额(adjusted turnover,大致指其与澳大利亚相关的销售额,不含商品及服务税)的30%进行比较,计算期间至少为12个月。66
任何侵扰隐私行为,无论是否严重,还可能被处以较低的民事罚款:个人最高2000个罚款单位(penalty units),公司最高为其五倍,即1万个罚款单位。罚款单位是联邦法律规定的金额,每三年按指数调整一次。对于2026年7月1日或之后发生的违规,每个罚款单位为364澳元,因此公司的最高罚款为364万澳元。如信息专员申请较高的罚款,而法院不认为该侵扰行为严重,法院可以改为下令处以较低的罚款。67
示例:公司在使用客户数据训练模型前应做什么?
以下示例为假设情形,逐步说明上述规则如何适用于一家公司。
假设一家总部位于深圳的智能家居品牌在澳大利亚开展业务,通过自有应用程序向澳大利亚人销售摄像头和门锁。其仅对澳大利亚人的销售额每年即约900万澳元,因此不能适用小企业豁免。68 自2023年3月起,该品牌保存了与澳大利亚客户的40万条客服聊天记录。这些记录是根据一份收集通知(collection notice,即收集信息时向客户展示的简短说明)收集的,该通知称聊天记录将用于“提供支持并改进我们的服务”。2026年11月,其产品团队希望用这些记录微调一个客服聊天机器人,但部分聊天记录包含健康信息,因为客户在询问无障碍设置时提到了残障或病情。本示例假设该品牌合法收集了这些聊天记录;如非如此,须首先解决这一问题。
这家深圳品牌应采取六个步骤:
- 将提及健康状况的聊天记录单独列出。这些记录包含敏感信息,适用更严格的标准:只有在取得客户同意,或客户会合理预期训练、且训练与提供支持直接相关的情况下,该品牌才能使用这些记录进行训练。实践中,最简便的做法是将这些记录排除在训练集之外。69
- 从其他聊天记录中删除模型不需要的内容,例如姓名、联系方式和订单号。这可以降低风险,但未必能实现去标识化,因为客户会以自己的措辞提及可识别身份的细节。因此,这些聊天记录通常仍属个人信息,下一步仍然适用。70
- 确定使用其他聊天记录进行训练的法律依据。用客服聊天记录训练客服聊天机器人,与提供支持相关,因此例外中“相关目的”这一要件很可能得到满足。“合理预期”这一要件则存疑。该品牌收集这些聊天记录所依据的收集通知,只说明记录将用于“提供支持并改进我们的服务”,并未提及AI。OAIC认为,现在修改通知或政策,通常不会使客户对已发送的聊天记录被用于训练产生预期。因此,审慎的做法是征求同意,或向澳大利亚客户发出清晰的通知并提供真正的选择退出机制,且在训练开始前给予客户充分的时间行使该选择。如上文所述,选择退出只能作为默示同意发挥作用,因此通知须清楚说明训练用途,选择退出须易于操作。71
- 在新的聊天开始之前告知客户训练用途。收集通知须在合理范围内说明收集目的。72 如果通知说明聊天记录可能用于训练客服聊天机器人,此后进行聊天的客户更可能预期这一用途,正如OAIC的聊天机器人示例所示。73
- 核查数据;如使用AI服务商,还须核查AI服务商。该品牌须采取合理步骤,确保其用于训练的聊天记录准确、最新、完整,且与该目的相关。74 许多公司是在AI服务商自己的平台上微调AI服务商提供的模型。如果这家深圳品牌也这样做,应首先阅读AI服务商关于其可如何处理聊天记录的条款,因为如上文所述,一些AI服务商的条款允许其保留用户上传的内容,用于训练自身的模型。
- 删除不再需要的数据。一旦该品牌不再为任何许可目的需要这些聊天记录,就必须采取合理步骤将其销毁或去标识化,除非法律要求保留。《隐私法》并未规定固定期限:该义务在不再需要时即产生。75
自2026年12月10日起,隐私政策是否须说明聊天机器人作出的决定?
自2026年12月10日起,该品牌的隐私政策可能须说明聊天机器人针对客户作出、或实质性直接协助作出的决定的类别,还可能须说明聊天机器人作出这些决定所使用的个人信息的类别。只有在聊天机器人使用客户的个人信息作出这些决定时,该义务才适用;且仅适用于可合理预期会对客户的权利或利益产生重大影响的决定。决定客户能否获得退款或换货的聊天机器人可能作出此类决定,因为《隐私法》将影响个人合同权利的决定列为示例。76 有关该义务的说明,详见另一篇关于自动化决策的文章。
尚未确定的问题(截至2026年11月4日)
- 个人信息处理标准可能发生变化。2026年8月31日至9月18日,澳大利亚政府通过总检察长部(Attorney-General’s Department)就《2026年隐私修正(个人数据保护)法案》的征求意见稿征求公众意见。征求意见稿是法案提交议会前为公开征求意见而发布的草案。该草案将以一项单一标准取代APP 3和APP 4(关于收集个人信息的规则)以及APP 6(关于使用和披露个人信息的规则)。根据该标准,对个人信息的任何处理都须在具体情况下公平合理。判断是否公平合理,将考虑多项因素,包括个人的合理预期、公司对该处理的透明程度、个人是否有真正的选择,以及该处理是否超出其目的所需。收集之后才产生的目的(例如训练),如果超出合理预期、缺乏透明度或不提供真正的选择,将较难通过该标准。清晰的选择退出机制可能有所帮助,因为征求意见文件将选择退出机制列为支持真正选择的方式之一,但没有任何单一因素可以决定结论。该草案仍在政府审议之中。77
- 去标识化数据的含义可能发生变化。该草案将去标识化视为“并非固定的状态”(not a fixed state):数据是否已去标识化,将取决于可能发生变化的具体情况。换言之,在某一情境下被视为已去标识化的数据,在另一情境下未必如此。78
- 个人可能获得删除其信息的权利。该草案将赋予个人要求大型数字平台删除其个人信息的权利。相比之下,《隐私法》目前并未规定一般性的删除权(right of erasure)。个人可以要求查阅和更正其信息,而公司必须销毁或去标识化其不再需要的信息。79
- 就本文研究所及,尚无法院就现行规则如何适用于AI训练作出裁决。在此之前,主要的参考是OAIC发布的文件,例如其关于AI的指引,以及逐条解释各项原则的《澳大利亚隐私原则指引》(Australian Privacy Principles Guidelines)。这些文件反映了监管机构对《隐私法》的理解,但并非法律本身。80
常见问题
- 我们的隐私政策写明会使用数据改进服务,这是否涵盖AI训练?
- 仅凭关于改进服务的条款,很可能不足以涵盖AI训练。OAIC认为,概括同意按照隐私政策处理数据并不足够;客户是否会合理预期训练,须以客观标准判断,并重点考虑收集数据时告知客户的内容。
- 我们的境外母公司能否使用澳大利亚客户的数据训练集团模型?
- 无论境外母公司本身是否受《隐私法》约束,都不能随意使用这些数据训练集团模型。《隐私法》允许公司向关联公司(related company)传递非敏感个人信息,但受《隐私法》约束的母公司将承继澳大利亚公司的原始目的,因此适用同样的训练标准。敏感信息须取得同意或符合例外,才能向母公司传递。OAIC认为,向境外传送数据还会触发APP 8,即规范个人信息跨境传送的规则;如果不受《隐私法》约束的母公司实施了违反澳大利亚隐私原则的行为,该行为将被视为澳大利亚公司的行为。
- 如果先对数据进行去标识化,是否还需要同意?
- 对于真正完成去标识化的数据,无需取得同意,因为其已不再属于个人信息。但OAIC将去标识化过程本身视为对个人信息的使用,并提示去标识化能否成功取决于具体情境,且可能难以实现。
本文为截至上方所示日期的澳大利亚法律一般性信息,不构成法律意见,也未考虑您的具体情况。阅读本文不会在您与 SQ Legal 之间建立律师与客户关系。就具体事项采取行动前,请先就您的情况获取法律意见。另见使用条款。
相关文章
了解更多数据与隐私合规业务,或联系 SQ Legal 咨询具体事项。
Anna Zheng,《能否使用澳大利亚客户的数据训练AI模型?》,SQ Legal,2026年11月16日,https://sqlegal.com.au/zh/insights/ai-training-personal-information-australia/
欢迎摘录引用本文,请注明作者和出处,并附本页链接。如需全文转载,请先联系 [email protected]发送邮件至[email protected]用默认邮件应用发送Gmail 网页版Outlook 网页版(个人邮箱)Outlook 网页版(工作或学校邮箱)或复制邮箱地址:[email protected]。
脚注
-
Privacy Act 1988 (Cth) sch 1 cls 6.1, 6.2(a) (‘Privacy Act’). ↩
-
Office of the Australian Information Commissioner, Guidance on Privacy and Developing and Training Generative AI Models (Guidance, 21 October 2024) (‘Training Generative AI Models’). ↩
-
Privacy Act (n 1) s 5B(1A), (3). ↩
-
Ibid ss 6C(1) (definition of ‘organisation’), 6D(1), (4), 6EA. ↩
-
Ibid s 6(1) (definition of ‘personal information’). ↩
-
Training Generative AI Models (n 2). ↩
-
Privacy Act (n 1) ss 6(1) (definition of ‘sensitive information’), 6FA(a)(i). ↩
-
Ibid sch 1 cl 3.3. ↩
-
Ibid sch 1 cl 6.2(a)(i). ↩
-
Ibid s 13B(1)(b), sch 1 cl 6.1. ↩
-
Ibid s 6(1) (definitions of ‘de-identified’ and ‘sensitive information’). ↩
-
Training Generative AI Models (n 2). ↩
-
Privacy Act (n 1) s 6(1) (definition of ‘de-identified’). ↩
-
Office of the Australian Information Commissioner, Report into Preliminary Inquiries of I-MED (Report, 31 July 2025) [1.3], [3.5], [6.2]. ↩
-
Ibid [5.1]. ↩
-
Ibid [5.2]. ↩
-
Ibid [1.5], [7.1]–[7.2]. ↩
-
Privacy Act (n 1) sch 1 cl 6.1. ↩
-
Privacy Act (n 1) s 16B(3), sch 1 cl 6.2(b)–(e). ↩
-
Ibid sch 1 cl 6.2(a). ↩
-
Office of the Australian Information Commissioner, ‘Chapter 6: APP 6 Use or Disclosure of Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 22 July 2019) [6.24], [6.26]–[6.27]. ↩
-
Ibid [6.20]; Training Generative AI Models (n 2). ↩
-
Training Generative AI Models (n 2). ↩
-
Ibid. ↩
-
Ibid. ↩
-
Privacy Act (n 1) sch 1 cl 6.1(a)–(b). ↩
-
Training Generative AI Models (n 2). ↩
-
Office of the Australian Information Commissioner, ‘Chapter B: Key Concepts’ in Australian Privacy Principles Guidelines (Guidelines, 21 December 2022) [B.43]–[B.44]. ↩
-
Privacy Act (n 1) s 13B(1)(b). ↩
-
Ibid s 13B(1)(b), sch 1 cls 6.1, 6.2(a)(i). ↩
-
Ibid sch 1 cls 6.2(a), 6.6. ↩
-
Office of the Australian Information Commissioner, ‘Chapter 8: APP 8 Cross-Border Disclosure of Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 3 October 2025) [8.6]; Privacy Act (n 1) sch 1 cl 8.1. ↩
-
Privacy Act (n 1) s 16C, sch 1 cl 8.1; Office of the Australian Information Commissioner, ‘Chapter 8: APP 8 Cross-Border Disclosure of Personal Information’ (n 32) [8.62]. ↩
-
Privacy Act (n 1) s 16C(1)(b), sch 1 cl 8.2(a)–(b). ↩
-
Training Generative AI Models (n 2). ↩
-
Office of the Australian Information Commissioner, Guidance on Privacy and the Use of Commercially Available AI Products (Guidance, 21 October 2024) (‘Commercially Available AI Products’); Privacy Act (n 1) sch 1 cls 6.1, 6.2(a). ↩
-
Commercially Available AI Products (n 36). ↩
-
Ibid. ↩
-
Privacy Act (n 1) sch 1 cls 3.2, 3.5. ↩
-
Ibid sch 1 cl 3.6. ↩
-
Office of the Australian Information Commissioner, ‘Chapter 3: APP 3 Collection of Solicited Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 13 May 2026) [3.90]. ↩
-
Privacy Act (n 1) sch 1 cl 3.3; Training Generative AI Models (n 2). ↩
-
Training Generative AI Models (n 2). ↩
-
Commissioner Initiated Investigation into Clearview AI, Inc (Privacy) [2021] AICmr 54, [3]–[4], [6], [32] (‘Clearview’). ↩
-
Ibid [5]. ↩
-
Ibid [98], [103], [110], [145], [167]. ↩
-
Ibid [171]–[173], [177], [179]–[180]. ↩
-
Ibid [178]–[180]. ↩
-
Ibid [1]–[2]. ↩
-
Clearview AI Inc and Australian Information Commissioner [2023] AATA 1069, [124]–[131], [195]–[199] (‘Clearview Review’). ↩
-
Ibid [132]–[134], [140], [147]. ↩
-
‘AHM’ and JFA (Aust) Pty Ltd t/a Court Data Australia (Privacy) [2024] AICmr 29, [63]–[64], [98], [139] (‘Court Data Australia’). ↩
-
Clearview Review (n 50) [201]. ↩
-
Office of the Australian Information Commissioner, ‘Statement on Clearview AI’ (Media Release, 21 August 2024). ↩
-
Ibid. ↩
-
Court Data Australia (n 52) [3]–[7]. ↩
-
Ibid [9]–[11], [35], [108]. ↩
-
Ibid [65], [68], [71], [79], [84], [86]. ↩
-
Ibid [96], [101]–[102]. ↩
-
Ibid [150]. ↩
-
Court Data Australia and Office of the Australian Information Commissioner [2025] ARTA 876, [32], [35]–[37], [41]–[42], [50], [61] (‘Court Data Australia Review’). ↩
-
Clearview (n 44) [145]; Clearview Review (n 50) [126]–[129]; Training Generative AI Models (n 2). ↩
-
Court Data Australia (n 52) [71], [86]; Court Data Australia Review (n 61) [40]. ↩
-
Court Data Australia (n 52) [101]–[102]; Court Data Australia Review (n 61) [49]–[50]. ↩
-
Privacy Act (n 1) s 6(1) (definition of ‘de-identified’), sch 1 cls 3.2, 3.3, 3.5, 6.1, 6.2(a); Training Generative AI Models (n 2). ↩
-
Privacy Act (n 1) ss 13(1)(a), 13G(1), (3), (5), (7), 80U(1)–(3); Clearview (n 44) [2]. ↩
-
Privacy Act (n 1) ss 13H, 13J; Regulatory Powers (Standard Provisions) Act 2014 (Cth) s 82(5); Crimes Act 1914 (Cth) s 4AA(1), (3); Crimes (Amount of a Penalty Unit) Instrument 2026 (Cth) s 5; ‘Fines and Penalties’, Australian Securities and Investments Commission (Web Page) <https://www.asic.gov.au/about-asic/asic-investigations-and-enforcement/fines-and-penalties>. ↩
-
Privacy Act (n 1) s 6D(1). ↩
-
Ibid sch 1 cl 6.2(a)(i). ↩
-
Ibid s 6(1) (definition of ‘de-identified’); Training Generative AI Models (n 2). ↩
-
Training Generative AI Models (n 2); Office of the Australian Information Commissioner, ‘Chapter B: Key Concepts’ (n 28) [B.43]. ↩
-
Privacy Act (n 1) sch 1 cls 5.1, 5.2(d). ↩
-
Training Generative AI Models (n 2). ↩
-
Privacy Act (n 1) sch 1 cl 10.2. ↩
-
Ibid sch 1 cl 11.2. ↩
-
Privacy and Other Legislation Amendment Act 2024 (Cth) s 2(1) table item 7, sch 1 item 88, inserting Privacy Act (n 1) sch 1 cls 1.7–1.9. ↩
-
‘Privacy Reform: Consultation on Exposure Draft Legislation’, Attorney-General’s Department (Web Page, 31 August 2026) <https://consultations.ag.gov.au/rights-and-protections/privacy-reform/>; Attorney-General’s Department, Privacy Reform (Consultation Paper, August 2026) 1, 10–11, 14. ↩
-
Privacy Reform (n 77) 4. ↩
-
Ibid 2; Privacy Act (n 1) sch 1 cls 11.2, 12.1, 13.1. ↩
-
Clearview (n 44) [29]. ↩
资料来源
- Privacy Act 1988 (Cth)
- Regulatory Powers (Standard Provisions) Act 2014 (Cth)
- Crimes Act 1914 (Cth)
- Crimes (Amount of a Penalty Unit) Instrument 2026 (Cth)
- Privacy and Other Legislation Amendment Act 2024 (Cth)
- Commissioner Initiated Investigation into Clearview AI, Inc (Privacy) [2021] AICmr 54
- Clearview AI Inc and Australian Information Commissioner [2023] AATA 1069
- ‘AHM’ and JFA (Aust) Pty Ltd t/a Court Data Australia (Privacy) [2024] AICmr 29
- Court Data Australia and Office of the Australian Information Commissioner [2025] ARTA 876
- Office of the Australian Information Commissioner, Guidance on Privacy and Developing and Training Generative AI Models (Guidance, 21 October 2024)
- Office of the Australian Information Commissioner, Report into Preliminary Inquiries of I-MED (Report, 31 July 2025)
- Office of the Australian Information Commissioner, ‘Chapter B: Key Concepts’ in Australian Privacy Principles Guidelines (Guidelines, 21 December 2022)
- Office of the Australian Information Commissioner, ‘Chapter 3: APP 3 Collection of Solicited Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 13 May 2026)
- Office of the Australian Information Commissioner, ‘Chapter 6: APP 6 Use or Disclosure of Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 22 July 2019)
- Office of the Australian Information Commissioner, ‘Chapter 8: APP 8 Cross-Border Disclosure of Personal Information’ in Australian Privacy Principles Guidelines (Guidelines, 3 October 2025)
- Office of the Australian Information Commissioner, Guidance on Privacy and the Use of Commercially Available AI Products (Guidance, 21 October 2024)
- Office of the Australian Information Commissioner, ‘Statement on Clearview AI’ (Media Release, 21 August 2024)
- ‘Fines and Penalties’, Australian Securities and Investments Commission (Web Page)
- ‘Privacy Reform: Consultation on Exposure Draft Legislation’, Attorney-General’s Department (Web Page, 31 August 2026)
- Attorney-General’s Department, Privacy Reform (Consultation Paper, August 2026)