CSDN - 专业开发者社区

Elasticsearch：使用 Streamlit、语义搜索和命名实体提取开发 Elastic Search 应用程序 一切都是一个搜索问题。我在 Elastic 工作的第一周就听到有人说过这句话，从那时起，这句话就永久地印在了我的脑海中。这篇博客的目的并不是我出色的同事对我所做的相关陈述进行分析，但我首先想花点时间剖析一下这个陈述。自成立以来，Elasticsearch 一直处于技术前沿 - 打破软件领域的模式，为世界各地家喻户晓的公司的技术支柱提供动力。我们倾向于将 Elastic 的产品分为几个 “OTB” 解决方案 - 安全性、可观察性等，但剥离这些，我们正在解决的问题基本上是面向搜索的。

22 赞

踩

作者：UbuntuTouch

LLM推理入门指南①：文本生成的初始化与解码阶段 随着生成式AI的火热发展，高企的语言大模型（LLM）推理性能和成本成为阻碍其大规模应用的关键挑战。LLM推理是指使用仅解码器Transformer模型生成词元，而大多数挑战及其相关的解决方法都来自这种特定的架构和用例。本系列文章将深入探讨LLM推理的不同层面及其挑战，同时，其中提供的有价值见解也适用于Transformer编码器模型的推理。通过本系列内容的学习，希望帮助读者了解与LLM推理密切相关...

15 赞

踩

作者：OneFlow_Official

阿里云突然玩起了性价比，网友：嘎嘎香！ 平地一声惊雷起，2月29日，在“成本·成长·成功”为主题的2024阿里云战略发布会上，阿里云放出大招，宣布全线100余款云产品官网直降20%。阿里云宣称，此次是真降价、不套路，实现了参与产品最多、受益群体最广、首次新老用户同享。打掉价格拦路虎，开发者尽享真香福利诞生于2006年的云计算，历经近20年发展，已成为是大多数勇于创新的企业和开发者的首选，也是技术创新的集中地，AI大模型、开源、大数据等均...

17 赞

踩

作者：CSDN资讯

马斯克搞脑机得“开瓢”？MIT 早在研究「挂耳式耳机」，戴上=“把整个互联网装进脑子”！... 整理 | 郑丽媛出品 | CSDN（ID：CSDNnews）上个月底，马斯克在 X 上发文称，第一位人类患者已接受 Neuralink 的脑机接口芯片植入，并表示“患者恢复良好”，还揭示了 Neuralink 的第一个芯片产品名为“Telepathy（心灵感应）”。到了本月，马斯克在直播中进一步透露了这位 Neuralink 人类患者的恢复情况：“实验的进展很好，病人似乎已经完全康复，我们没有发现...

21 赞

踩

作者：CSDN资讯

使用搭载骁龙 8 Gen 3 的安卓手机运行 AI 大模型 本篇文章聊聊，在 Android 手机上简单运行 AI 大模型的方法，来体验英文语言模型（Llama2 7B、Mistral 7B、RedPajama 3B、Google Gemma 2B、Microsoft PHI 2B）；中文语言模型（面壁 MiniCPM、多模态模型）；Stable Diffusion。

9 赞

踩

作者：soulteary

AI驱动全年业绩超预期！百度2023年营收1345.98亿元，净利润大涨39% 北京时间2月28日，百度发布2023年第四季度及全年财报，显示2023年总营收达1345.98亿元，归属百度的净利润（non-GAAP）287亿元，同比增速达39%；四季度营收349.51亿元，归属百度的净利润（non-GAAP）77.55亿元，同比大涨44%。2023年，百度全年营收和利润均超市场预期。AI成为百度的增长新动力。财报显示，2023年百度核心收入1034.65亿元，归属百度核心的净利润（non-GAAP）274亿元，同比增长38%；2023年12月，百度App月活用户数达6.67亿。

5 赞

踩

作者：CSDN资讯

2024深度学习主流框架对比 PyTorch可能会继续在研究社区中占据主导地位，TensorFlow将继续受益于Google的支持和广泛的行业应用，而PaddlePaddle可能会在中国和亚洲市场中继续扩大其影响力。现在为TensorFlow官方API提供简洁易用的高级API，尤其适合初学者和快速原型设计具有广泛的模型库、预训练模型和各种工具包，使得模型构建更加高效。尽管近年来，随着PyTorch、TensorFlow和其他框架的兴起，Caffe的流行度有所下降，Caffe的使用已经相对减少。同时，它提供了详细的文档和丰富的学习资源。

28 赞

踩

作者：AI&Wisdom 二师兄

白海科技卢亿雷：大模型训推平台的实践与探索！ 2024 全球机器学习技术大会将于 4 月 25、26 日在上海环球港凯悦大酒店隆重举行！白海科技创始人兼 CEO 卢亿雷将参加本次盛会，并发表精彩演讲！

4 赞

踩

作者：CSDN资讯

云原生网关哪家强：Sealos 网关血泪史 Sealos 公有云上线以来，用户呈爆发式增长，目前总共注册用户 8.7w，每个用户都去创建应用，每个应用都需要有自己的访问入口，就导致整个集群路由条目非常巨大，需要有支撑数十万条 Ingress 的能力。

33 赞

踩

作者：阿里云云栖号

如何用SVG画一个特定边框 最近的需求中有一个tab切换的场景，设计师提出了自己期望的效果，核心关注点在蓝色边框上，本文围绕如何实现这样的边框效果展开讨论。背景设计师期望的效果如下，核心关注点在蓝色边框上。实现这样的边框，核心问题有几个：如何将两个元素的边框相连内凹的圆角如何实现tab元素滚动离屏，边框如何过渡CSS我决定先用CSS试试，border + border-radius，应该轻松搞定。▐问题一：CSS 如何实...

5 赞

踩

作者：Taobaojishu

Python 潮流周刊#39：Rust 开发的性能超快的打包工具 △△请给“Python猫”加星标，以免错过文章推送你好，我是猫哥。这里每周分享优质的 Python、AI 及通用技术内容，大部分为英文。本周刊开源，欢迎投稿[1]。另有电报频道[2]作为副刊，补充发布更加丰富的资讯，欢迎关注。????文章&教程1、uv：Rust 开发的 Python 打包工具[3]Ruff 所属团队用 Rust 开发的一个利器：Python 的包解析与安装器uv ！它被设计为...

18 赞

踩

作者：Python猫

从 Elasticsearch 到 Apache Doris，统一日志检索与报表分析，360 企业安全浏览器的数据架构升级实践 将日志检索和报表分析统一到一个系统中，Doris 2.0 版本在增加倒排索引后，能同时满足这两个场景，从而缩短了数据处理的链路和复杂度，显著提高了数据处理的效率。聚合分析性能得到数量级的提升，之前在 Elasticseach 中需要近 10 秒才能完成聚合查询，而在 Doris 中不到 1 秒就能完成，聚合分析效率至少提升 100%。Doris 提供了高效的数据压缩效率，相较于 Elasticseach，同一份数据的存储资源成本降低了 60%。

11 赞

踩

作者：SelectDB_Fly

软件设计不是CRUD（12）：低耦合模块设计理论——业务抽象：模块分层操作 对系统中的模块分层原则和分层规划方式进行了详细描述，并使用了一个仓储管理场景演示了如何进行模块分层规划。完成了模块分层规划后，我们就可以基于前期已经提取的业务维度，以及这个刚完成的模块分层规划，进行模型抽象工作和行为抽象工作了。实际上本文在讲解分层规划方式时，已经讲解了一些模型和行为的设计要点，例如讲解了业务主体、业务主体的关联信息以及业务主体和行为的对应方式。

24 赞

踩

作者：说好不能打脸

GenAI的“关键一跃”：推理与知识 当前的人工智能领域正通过生成式人工智能（GenAI）经历一场重大转变。这一转变不仅代表了技术上的飞跃，更标志着人工智能领域的范式转变，引发了有关GenAI的独特特性及其深远影响的关键问题讨论。植根于计算革命的丰富历史，本文从计算复杂性角度出发，探索推理和知识的本质，将历史性成就与最新的进展巧妙地交织在一起，以丰富我们对人工智能的理解。（本文作者为吕坚平博士。以下内容经授权后由OneFlow编译发布...

19 赞

踩

作者：OneFlow_Official

语言大模型的浮点运算分配 本文通过实证分析展示了实际LLM模型的FLOPS分配情况，并与理论分析进行对比。通过理论和实证相结合的方式，本文为理解和优化语言大模型的性能提供了有益见解。作者Finbarr Timbers是一名机器学习研究员，曾就职于DeepMind。（以下内容由OneFlow编译发布，转载请联系授权。原文：https://www.artfintel.com/p/where-do-llms-spend-thei...

24 赞

踩

作者：OneFlow_Official

作业帮 x TiDB丨多元化海量数据业务的支撑 同时，在人工智能爆发的背景下，越来越多的探索性业务天然需要存储海量的数据，TiDB 自然成为首选方案。相较于 TiDB v3.x，v4.0.9 在性能、管理、易用性等方面都有了质的提升，同时 TiDB 的生态组件以及社区也都达到了非常完善的程度，可以说是一个标志性的版本。经过半年左右时间的使用，在对 TiDB 有一定了解的基础上，我们开始在公司内部进行 TiDB 相关的技术分享，向研发人员介绍 TiDB 的一些特性和在大数据量场景下的优势，并主动接触各个业务线去寻找合适的使用场景。

10 赞

踩

作者：TiDB_PingCAP

从头理解与编码LLM的自注意力机制 本文将介绍Transformer架构和GPT-4、LLaMA等语言大模型中使用的自注意力机制。自注意力和相关机制是LLM的核心组件，使用LLM时，了解这些机制十分有必要。本文还提供了使用Python和PyTorch从零开始编码自注意力机制的详细指南，并演示其工作方式，帮助初学者和经验丰富的从业者深入理解它在LLM中的作用。本文作者是机器学习和人工智能研究员Sebastian Raschka，目前担...

22 赞

踩

作者：OneFlow_Official

语言大模型推理加速指南 本文是一篇关于加快语言大模型推理速度的综合指南。从硬件优化到各种解码技巧，文章介绍了各种优化策略，旨在帮助读者更好地理解和优化LLM的性能。相信不论是这一领域的初学者或是专家，都能从中有所收获。本文作者为工程师和计算语言学家Theia。（以下内容由OneFlow编译发布，转载请联系授权。原文：https://vgel.me/posts/faster-inference/）作者 |TheiaOne...

26 赞

踩

作者：OneFlow_Official

Mistral AI：探索LLM推理的吞吐、时延及成本空间 选择正确的LLM推理栈意味着选择适合你的任务的正确模型，并配以适当的推理代码在适当的硬件上运行。本文介绍了流行的LLM推理堆栈和设置，详细说明其推理的成本构成；并讨论当前的开源模型以及如何充分利用它们，同时还涉及当前开源服务栈中仍然缺失的功能，以及未来模型将解锁的新功能。本文源自MistralAI首席技术官Timothée Lacroix的演讲。他于2015年在Facebook AI Resea...

29 赞

踩

作者：OneFlow_Official

大模型的规模扩展是否可持续？ GI何时会到来？如果我们能不断扩展LLMs++的规模（并因此取得更好和更通用的性能），就有理由期望到2040年（或更早）出现强人工智能，它能够自动化大部分认知劳动并加速人工智能研究。然而，如果扩展（scaling）不起作用，那么实现AGI的道路则会变得更加漫长、棘手。为全面探讨有关扩展的正反观点，我构造了两个虚构角色（正...

20 赞

踩

作者：OneFlow_Official