HyperAIHyperAI

Command Palette

Search for a command to run...

1 个月前
LLM
基准
语言

Urania:面向AI使用的差分隐私洞察

Abstract

我们提出了Urania,这是一种用于生成大语言模型(LLM)聊天机器人交互洞察的新颖框架,该框架在严格的差分隐私(Differential Privacy, DP)保障下运行。该框架采用私有聚类机制,并结合创新的关键词提取方法,包括基于频率、TF-IDF以及由LLM引导的多种策略。通过利用差分隐私工具,如聚类、分区选择和基于直方图的摘要技术,Urania实现了端到端的隐私保护。我们的评估从词汇与语义内容保留、对话对之间的相似性以及基于LLM的指标等多个维度展开,并与一个非私有的、受Clio启发的流水线(Tamkin等,2024)进行对比。此外,我们设计了一种简明的实证隐私评估方法,验证了本DP流水线在隐私鲁棒性方面的显著提升。实验结果表明,该框架能够在严格保护用户隐私的前提下,有效提取具有实际意义的对话洞察,实现了数据效用与隐私保护之间的良好平衡。


Build AI with AI

From idea to launch — accelerate your AI development with free AI co-coding, out-of-the-box environment and best price of GPUs.

AI Co-coding
Ready-to-use GPUs
Best Pricing

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供