解锁生成式 Ai：2024 年马德里 Aws 峰会对 Olx 工程师的启示

Rifx.Online
Generative AI , AI Applications , Industry Insights
26 Feb, 2025

在2024年马德里AWS峰会

氛围非常热烈！IFEMA吸引了成千上万的云计算爱好者、技术高管和开发者，他们渴望了解影响未来技术的新进展。作为OLX的一名工程师，我特别期待探索生成AI（GenAI）领域，并观察这些前沿工具如何被用于解决实际问题，为客户提供更好、更充实的体验。

合作伙伴展位内的爆米花机

一进入主旨演讲厅，就明显感觉到GenAI是主要的吸引力。随着演讲者展示全新服务、讨论实际应用案例并描绘一个被人工智能转变的未来，空气中充满了明显的活力。但峰会不仅仅是炒作；它提供了大局视野与实用、可操作的见解的宝贵结合，我可以将这些带回OLX的不同团队。

基石：通往无限可能的无服务器网关

峰会的一大亮点是AWS基石，这是一项完全托管的服务，已成为开发和部署生成AI应用程序的必备工具。其无服务器的方法简化了基础设施管理，使开发者能够专注于创新。

基石的卖点在于其一系列基础模型（FMs），包括亚马逊的Titan FMs以及来自AI21 Labs、Anthropic和Stability AI的模型，所有这些都可以通过单一接口访问。这种与更广泛的AWS生态系统的无缝集成，包括像亚马逊S3这样的数据存储服务和亚马逊SageMaker这样的规模化模型部署服务，使OLX能够构建强大、高效且可扩展的生成AI解决方案。

LLMOps实践：从实验到生产就绪的AI

一场令人难忘的会议是“Operacionalizando aplicaciones de IA generativa usando LLMOps, con Securitas Direct”（“使用LLMOps操作生成AI应用程序，与Securitas Direct合作”），它不仅展示了GenAI的能力，还解决了在实际环境中部署和管理这些技术的真实挑战。Securitas Direct团队讨论了他们如何使用LLMOps来增强其生成AI解决方案的可靠性、可扩展性和持续改进。他们强调了强大的模型监控、自动化再训练和部署管道的重要性，以及数据科学家、工程师和运营团队之间的跨职能协作。

强大的模型监控和管理： 在生产环境中密切关注模型性能对于及早发现问题和确保最佳结果至关重要。
模型再训练和部署的自动化管道： 随着新数据的出现，必须高效地再训练和重新部署模型，以保持准确性和相关性。
数据科学家、工程师和运营团队之间的协作： 打破团队之间的壁垒对于构建和管理成功的AI解决方案至关重要。

在OLX，我们致力于将LLMOps整合到我们的生成AI项目中，深知一个稳固的框架对于从实验转向生产就绪的AI至关重要。我们很快就开始按照LLMOps最佳实践构建我们内部生成AI平台的最小可行产品（MVP）。

激励性应用案例：跨行业的生成AI

峰会强调了多个行业中创新的生成AI应用，包括：

“IA generativa: tu asistente de ventas low-cost, con Screening Eagle”（“生成AI：您的低成本销售助手，与筛选鹰合作”）：这一会议探讨了如何使用生成AI来自动化和增强销售流程，为企业提供强大的工具，以接触新客户并增加收入。演示展示了筛选鹰如何利用生成AI生成个性化的销售推介，根据客户互动建议相关产品，甚至自动化后续沟通，从而实现更高效和有效的销售流程。
“IBM: Acelerando el desarrollo de aplicaciones web con GenAI”（“IBM：利用生成AI加速Web应用程序开发”）：IBM的这一演讲深入探讨了开发者如何利用生成AI工具和框架来更快、更高效和更具吸引力地构建Web应用程序。演示展示了IBM如何使用生成AI来协助代码生成、自动化测试，甚至个性化用户界面，展示了这一技术在简化开发工作流程和改善用户体验方面的潜力。

在OLX，我们也通过OLX Magic和Agentic Buying and Selling等项目探索生成AI的能力。

OLX Magic利用生成AI帮助买家找到相关物品，提供个性化推荐，并自动化购买过程的部分环节。
同样，Agentic Buying and Selling旨在实现持续的买卖能力，减少手动互动的需求，提高运营效率。

这些内部倡议与峰会上讨论的趋势和创新相一致，强调了跟上生成AI最新发展的重要性。通过学习外部成功案例并将这些见解整合到我们的项目中，OLX可以继续创新并提供更优质的用户体验。

生成AI如何改善供应链各个阶段的流程

OLX：利用生成AI构建更好的市场

参加2024年马德里AWS峰会不仅仅是吸收信息；更是带回可操作的见解，以便我们在OLX作为开发者和公司进行改进。我们期待利用生成AI的力量来构建更好的产品并增强用户体验。但这些还可以进一步改进，一些想法可以应用到我们的公司：

深入理解用户意图以改善搜索： Clarity AI的演讲 “Optimizando costes y performance en despliegue de modelos fundacionales”（“优化基础模型部署中的成本和性能”）非常有价值。他们讨论了部署和优化人工智能模型的实际考虑，这对于构建智能搜索引擎至关重要。在OLX，我们始终在寻找改善搜索体验和准确性的新方法。如今，简单的关键字匹配已不再足够，因为可以使用更先进的技术，如使用嵌入进行语义搜索。将大语言模型（LLMs）集成到核心搜索流程中并不简单，并且涉及多个挑战，包括延迟、成本和信息检索管道中的特定任务。亚马逊SageMaker被强调为可以通过提供各种推理选项和优化成本来帮助管理这些复杂性的工具。
赋能卖家使用人工智能驱动的列表创建工具： 与筛选鹰的 “IA generativa: tu asistente de ventas low-cost”（“生成AI：您的低成本销售助手”）会议展示了一些非常酷的使用生成AI协助内容创建和产品推荐的方式。我们正在研究如何调整这些技术，以创建人工智能驱动的工具，引导OLX的买家和卖家实现更顺畅和更成功的体验。
增强欺诈检测与预防： 会议 “Más allá del Boom: construyendo una arquitectura de IA Generativa”（“超越繁荣：构建生成AI架构”）深入探讨了构建强大且可扩展的生成AI解决方案的架构考虑。通过利用大语言模型的力量，可以创建一个学习并适应新欺诈策略的系统，保护我们的用户安全并建立对我们平台的信任。

教育机会：AWS技能构建器和认证项目

峰会还提供了丰富的学习资源和认证准备会议，对希望加深其AWS和人工智能专业知识的与会者来说是非常宝贵的。这些资源对任何希望在云和人工智能技术方面提升技能的人至关重要。AWS技能构建器会议涵盖了各种主题和格式，适合各个级别的学习者进行各种认证。从入门课程到深入探讨特定服务，AWS专家热衷于帮助您实现目标并回答您的问题。

认证准备讲座也是一大亮点。专家讲师提供了关于考试主题、考试策略和提高成功率的实用建议的详细指导。