美国人工智能初创公司Anthropic称其阻止黑客利用Claude AI进行网络犯罪

8月27日，美国人工智能初创公司Anthropic表示，该公司发现有黑客试图利用其Claude AI系统编写网络钓鱼邮件、生成恶意代码和规避安全过滤器。Anthropic称，其内部系统已阻止了上述行为，并正在将其作为案例研究分享，以帮助其他人了解风险。