Distill CLI:亚马逊 CTO Werner Vogels 发布由 Rust 驱动的媒体总结工具

作者 | Renato Losio
译者 | 马可薇
策划 | 丁晓昀
亚马逊 CTO Werner Vogels 近期发布了一款用 Rust 编写的私人项目,Distill CLI。该开源工具借助亚马逊的 Transcribe 和 Bedrock 直接从命令行生成录音的摘要总结。  

新的 CLI 是基于开源工具 Amazon Bedrock Audio Summarizer,利用 Amazon S3、Amazon Lambda、Amazon Transcribe、Amazon Bedrock 以及 AWS CDK 管理项目的基础设施,从而提供自动转录和总结多媒体文件的方式。今年上半年,Vogels 在介绍 Distill 的《骇入更好的 Team 会议》一文首次提到了这个项目。

图片

Example of Distlll CLI 的输出示例。来源:博客《分布的万物》

这款由 Vogels 和他在亚马逊的团队开发的 Rust 应用程序可以总结提取日常会议中的重要细节,他写道:

我一直在寻找能够帮我完善自己记笔记过程的工具和策略(比如康奈尔笔记法)。虽然通常情况下我更喜欢纸笔(因为纸笔有助于记忆和归纳),但不可否认的是技术的确可以帮我们提高积累能力,尤其是在会议等场合,积极参会和记录笔记可能会互相冲突。

图片

Distill 的首个版本。来源:博客《分布的万物》

Vogels 分享了项目早期阶段的技术选择细节,该项目意在利用人工智能转录和总结线上多人会议:

我们用 Rust 重写了一个 Lambda 函数,结果发现冷启动速度提高了 12 倍,内存占用减少了 73%。随即我就开始思考其他可以提高整体流程效率的方式。

他强调说最初的 POC 里是将媒体文件、记录稿和总结稿保存在 S3,但发布版本的 Distill CLI 则是将记录稿和总结稿保存在内存,从而减少向 S3 写入的次数。该 CLI 的简单用户界面提供状态更新,并会在出现任何故障时通知用户,使用户可在不离开命令行界面即可上传 meticulous 文件并监控总结摘要的处理过程。

Distill CLI 支持将摘要输出到终端和 Word 文档、文本文件、markdown 及 Slack 消息等格式。这项工具可以处理 Amazon Transcribe 所支持的任何语言 的音频文件。

尽管 Distill CLI 需求是源自团队,但 Vogels 承认他的目标是用一种新的语言挑战自己,证明鼓捣是学习和保持好奇心的有效方法:

我以前也说过,这些事情你都要自己做,否则这些都是瞎扯。随着越来越多的人选择用 Rust 来大规模解决棘手的问题,我觉得是时候亲自动手了。

他承认 Rust 可能会颇具挑战性:

前期会有很多难题,当你只想立刻在 IDE 里开始构建的时候,这些有时会很难。但只要度过了开头的门槛,你就会发现速度加快的巨大潜力。请记住,构建一个系统、服务或应用程序的成本与它的运营成本相比微不足道。因此我们应不断审视自己的构建方式。

Pyle 云科技的联合创始人 Benjamen Pyle 评论道:

非常高兴能看到亚马逊支持、鼓励并投资于 Rust。这是一款适合各类型用例的神奇编程语言,适用于 CLI 工具、嵌入式系统、Web API,甚至是无服务器的工作负载。

用户 erikhopf 在 Hacker News 上补充道:

和在亚马逊上编写文档相比,我很喜欢这种学习用 Rust 写文档,前者简直是战场雷区。Distill CLI 目前在 GitHub 上以 Apache 2.0 许可发布。

Distill CLI: Amazon CTO Werner Vogels Unveils Rust-Powered Media Summarization Tool (https://www.infoq.com/news/2024/07/distill-cli-werner-vogels/)

声明:本文由 InfoQ 翻译,未经许可禁止转载。