相关文章
大模型高并发部署方案探究
版本 内容 姓名 时间 V1.0 新建 xx 2025-01-16 声明:只是进行探究,后续真正实践后,会更新新的内容 前置条件:70B的模型,并发要求200
性能测试参考链接
Benchmarking LLM Inference Backends :表明一台A100(8…
建站知识
2025/1/17 9:47:12
windows 极速安装 Linux (Ubuntu)-- 无需虚拟机
1. 安装 WSL 和 Ubuntu 打开命令行,执行
WSL --install -d ubuntu若报错,则先执行
WSL --update2. 重启电脑 因安装了子系统,需重启电脑才生效 3. 配置 Ubuntu 的账号密码 打开 Ubuntu 的命令行 按提示,输入账号,密…
建站知识
2025/1/17 9:21:33
下定决心不去读研了。。。
大家好,我是苍何。
之前发表过一篇文章,表达了自己读研的困惑和纠结,得到了大家很多的建议,也引起了很多人的共鸣,在留言区分享了自己的故事,看着这些故事,我觉得都够苍何写一部小说了。 可惜苍…
建站知识
2025/1/17 9:20:32
apache-skywalking-apm-10.1.0使用
apache-skywalking-apm-10.1.0使用
本文主要介绍如何使用apache-skywalking-apm-10.1.0,同时配合elasticsearch-8.17.0-windows-x86_64来作为存储 es持久化数据使用。
步骤如下:
一、下载elasticsearch-8.17.0-windows-x86_64
1、下载ES(elasticsear…
建站知识
2025/1/17 9:12:21
正则表达式 匹配特定字符后的所有字符
在处理文本数据时,正则表达式(RegularExpressions,简称Regex)是一种非常强大的工具,它可以用来搜索、匹配和替换文本中符合特定模式的字符串。
首先,明确我们的目标是匹配完整的URL,并获取它之…
建站知识
2025/1/17 9:08:16
C++实现设计模式---享元模式 (Flyweight)
享元模式 (Flyweight)
享元模式 是一种结构型设计模式,它通过共享对象来减少内存使用和对象创建的开销。当系统中有大量相似对象时,享元模式可以避免重复创建相同对象,从而节省内存。 意图
通过共享相同对象来减少内存消耗。用于系统中存在…
建站知识
2025/1/17 8:58:02
【深度学习】关键技术-正则化(Regularization)
正则化(Regularization) 是一种用于防止模型过拟合的技术。它通过在损失函数中添加额外的约束项,限制模型的复杂度,从而提高模型的泛化能力。 正则化的主要作用
防止过拟合:通过抑制模型对训练数据的过度拟合…
建站知识
2025/1/17 8:37:37
神经网络常见操作(卷积)输入输出
卷积
dimd的tensor可以进行torch.nn.Convnd(in_channels,out_channels),其中nd-1,d-2对于torch.nn.Convnd(in_channels,out_channels),改变的是tensor的倒数n1维的大小
全连接
使用torch.nn.Linear(in_features,out_features,bias)实现YXWT b,其中X 的形状为 (ba…
建站知识
2025/1/17 8:24:22