由于人们对深度造假和人工智能生成的错误信息日益担忧，科技巨头 Adobe 正在推出新工具，为图像和视频生成“营养标签”，以显示其来源，包括内容是否是使用人工智能工具生成的。
随着 Midjourney、DALL-E、Adobe Firefly、Leonardo.AI 和 Canva Magic Design 等生成式 AI 工具在过去一年中迅速流行，人们也担心这些工具被用来侵犯版权和传播错误信息.
使用提示“AI 创建的世界”从 Adobe Firefly 生成的 AI 图像。 图片来源：Adobe Stock
在美国大选和明年澳大利亚联邦大选期间，此类担忧达到了白热化的程度，一些专家警告说，被操纵的内容可能会影响选民，并可能对民主产生负面影响。
Adobe 对 2000 名内容创作者进行的研究发现，虽然他们相信人工智能工具可以帮助他们节省时间和金钱，但他们也认为担心他们的内容在未经他们同意的情况下被不道德地用于训练生成人工智能模型。
他们还担心失去对自己工作的控制，包括担心其他人窃取或抢占他们的工作成果。近一半的受访者表示，他们在网上遇到过与自己类似的工作，并相信是通过生成式人工智能创建的。
“我最近有一次经历，一家公司创建了一个人工智能模型，可以按照我的风格制作插图”，根据 Adobe 的报告，一位创作者说道。
正在加载“我的艺术作品一直在网上转售。我真的没有时间再处理所有删除请求了。”另一位用户说道。
Adobe 的新工具将于明年初发布，它将允许创作者轻松附加安全的“内容凭证” ”到他们的图像、视频、音频和其他数字作品。这些凭据包括可以传达创建者身份、网站、社交媒体链接以及有关内容是否可用于训练 AI 模型的偏好的元数据。
广告“这是为了赋予创作者权力，并为他们提供工具来保护他们的作品并在他们的内容在互联网上移动时保持归属， ” Adobe 数字媒体业务首席技术官伊利·格林菲尔德 (Ely Greenfield) 在接受采访时表示。
“随着人工智能的兴起，对于创作者来说，拥有一种方式来维护自己对内容的权利和偏好变得至关重要。这些工具将以免费网络应用程序的形式于 2025 年初向公众发布，允许内容创建者建立对数字内容的所有权，即使该内容不是使用 Adobe 产品创建的。 Google Chrome 的扩展程序还允许用户检查与内容相关的任何内容凭据，包括其编辑历史记录。
一段内容的元数据可能会显示“此内容是使用人工智能工具编辑的”，例如，使用了哪种人工智能工具。
至关重要的是，Adobe 的“内容真实性计划”赢得了超过 3700 个成员组织的支持，其中包括 ChatGPT 制造商 OpenAI、Meta、Google、微软、TikTok 和 Nvidia。
格林菲尔德表示，Adobe 的目标是让内容凭证像网络浏览器中的锁图标一样无处不在，象征着透明度和可信度。
“正如HTTPS 已成为安全网络连接的标准，我们希望内容凭证成为数字内容真实性的标准，”他说。 “我们的希望和期望是它会附加到您看到的每一条内容中。 ”
在对深度造假和选举诚信的担忧中，艺术界也在密切关注。 George Hartley 是澳大利亚最大的在线艺术画廊 Bluethumb 的联合创始人。
George Hartley，联合创始人兼首席营销官兼首席产品官Bluethumb。
Hartley 表示，与人工智能生成的作品相比，澳大利亚人更喜欢原创的手工艺术，并且强烈要求在艺术创作中使用人工智能的透明度。 Bluethumb 近 90% 的艺术品收藏家表示，他们不愿意购买人工智能生成的艺术品（即使价格较低），并相信手工艺术具有人工智能无法复制的内在价值。
Bluethumb 调查的大多数（91%）艺术家认为，披露何时使用人工智能工具进行艺术创作至关重要，70% 的人表示他们从未使用人工智能，尽管许多人承认这在未来可能会变得不可避免。
“澳大利亚人意识到人工智能重塑艺术世界的潜力，但会对使用传统媒介手工创作的艺术家产生不利影响，”他说。 “未来，关键将是在创新和真实性之间取得平衡，以维护人类艺术表达的完整性并保护我们的视觉艺术社区。”
墨尔本艺术收藏家 Freddy Grant 表示，有些东西是没有灵魂的。在他看来，关于人工智能艺术。
“对我来说重要的是与艺术家建立联系并支持他们。我更愿意知道我是从一位自己创作作品的艺术家那里购买的，而不是使用人工智能。
澳大利亚政府已提议在高风险环境中为人工智能引入欧盟式的强制护栏。政府上个月发布了一份提案文件，正在寻求进一步的反馈。
“这可能是世界各国政府面临的最复杂的政策挑战之一，”工业和科学部长埃德·胡西克 (Ed Husic) 在新闻发布会上表示。九月。
工业和科学部长 Ed Husic。图片来源：Alex Ellinghausen
< /figcaption>“澳大利亚政府决心采取措施，确保在这个国家安全和负责任地使用人工智能。”
Husic 表示，澳大利亚目前的监管系统不适合应对人工智能带来的风险。胡西克表示，生成式人工智能可以自动生成图像、视频、音频和计算机代码，因此更有可能具有“高风险”。
Adobe 发言人表示，该公司支持政府提议的方法专注于高风险的人工智能用例。
加载“政府的提案文件正确地考虑了人工智能对民主和选举的影响，我们同意他们的发现，即透明度是民主的关键支柱，”发言人表示。
Adobe 今年早些时候面临了一波用户投诉，当时它更改了服务条款，暗示它允许自己访问用户的工作来训练其生成人工智能模型，甚至是受非专利保护的工作。 -披露或保密协议。
根据格林菲尔德的说法，这是一个误解。他说 Adobe 从来没有根据客户内容训练其 Firefly 模型。
“这真的很不幸，”他说。
“发生的事情是我们做了一个非常对我们的使用条款进行微小且无害的更改。这是一个两个词的更改，触发了我们的用户接受它们的自动要求。由于公司使用内容的方式越来越严格，很多人接着说，‘哦，Adobe 正在改变使用条款。让我比以前更仔细地阅读它们。
每周五在我们的技术通讯中获取有关技术、小工具和游戏的新闻和评论。在此注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
