Young's Blog

发表于 更新于 分类于 本文字数： 483 阅读时长 ≈ 2 分钟

记录一下用ollama和openwebui来部署几个大模型：Qwen2、LLaMa3和LLaVa

安装Ollama 及pull model

  1. 去ollama的官网下载安装ollama

  2. 更改变量：windows中添加环境变量: OLLAMA_MODELS: XXXXpath，linux需要到systemd中找到ollama的哪个文件，然后进行修改，这样ollama pull 模型的时候，就会安装到指定的路径

  3. ollama安装完成后，可以用ollama pull qwen2:7b这样来下载模型，也可以下载模型的GGUF文件，然后需要写一个配置文件，如config.txt，内容如下： 

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    FROM "path/to/llama3-8b-cn-q6/Llama3-8B-Chinese-Chat.q6_k.GGUF"

    TEMPLATE """{{- if .System }}
    <|im_start|>system {{ .System }}<|im_end|>
    {{- end }}
    <|im_start|>user
    {{ .Prompt }}<|im_end|>
    <|im_start|>assistant
    """

    SYSTEM """"""

    PARAMETER stop <|im_start|>
    PARAMETER stop <|im_end|>

阅读全文 »

发表于 更新于 分类于 本文字数： 6.1k 阅读时长 ≈ 22 分钟

强化学习

  1. 基本概念
    • 智能体(agent)和环境(environment)：强化学习研究的问题是智能体与环境交互的问题，智能体把它的动作输出给环境，环境取得这个动作后会进行下一步，把下一步的观测与这个动作带来的奖励返回给智能体，这样的交互会产生很多观测，智能体的目的就是从这些观测之后学到能最大化奖励的策略。
    • 序列决策： 智能体的目的就是选取一系列的动作带来最大化奖励，所以这些选取的动作必须有长期的影响。与环境交互的过程中，智能体会获得很多观测，针对每一个观测，智能体会采取一个动作，也会得到一个奖励，所以历史是观测、动作、奖励的序列。
    • 奖励：奖励是由环境给的一种标量的反馈信号，这种信号可显示智能体在某一部采取某个策略的表现如何。强化学习的目的就是最大化智能体可以活得的奖励，智能体在环境里面存在的目的就是最大化它的期望的累积奖励。
    • 状态是对世界的完整描述，不会隐藏世界的信息，观测是对状态的部分描述。
阅读全文 »

发表于 更新于 分类于 本文字数： 339 阅读时长 ≈ 1 分钟

在服务器的个人账户下上安装cuda

  1. 去cuda archive里找到对应的cuda版本的runfile文件，通过sh xxx.run来安装

  2. 安装的时候，需要去Options里更改toolkit和library的path，设置完后即可进行install

  3. install完了之后，需要去bashrc里添加以下内容：

1
2
export PATH="/xxx/cuda/bin:$PATH"
export LD_LIBRARY_PATH="/xxx/cuda/lib64:$LD_LIBRARY_PATH"

  1. 然后source一下bashrc，再nvcc -V，如果显示版本号，则说明安装成功

  2. 遇到需要本地cuda的时候，可以

export CUDA_HOME=="/xxx/cuda/"

在服务器个人账户下安装GCC

  1. 去清华源下载需要的gcc的版本，网址在这里: https://mirrors.tuna.tsinghua.edu.cn/gnu/gcc/

  2. 解压完后，进入文件夹gcc-x.x.x，执行命令：./contrib/download_prerequisites

  3. make build，新建一个文件夹，cd build，../configure --prefix=/home/xxx/gcc-x.x.0 --enable-shared --enable-threads=posix --enable-languages=c,c++,fortran --disable-multilib

  4. make -j10 && make install

  5. 打开 .bashrc，添加一下内容：

1
2
3
export PATH=/path/to/install/gcc-5.4/bin:$PATH
export LD_LIBRARY_PATH=/path/to/install/gcc-5.4/lib/:/path/to/install/gcc-5.4/lib64:$LD_LIBRARY_PATH`

  1. source一下bashrc，然后gcc --version，如果显示版本号，则说明安装成功
    阅读全文 »

发表于 更新于 分类于 本文字数： 35 阅读时长 ≈ 1 分钟

Matplotlib 绘图

  1. 3D plot时候的需要注意的地方

https://www.codenong.com/48442713/

https://www.coder.work/article/2032713#google_vignette

绘图软件推荐

  • Visio
  • PPT
  • 飞书
  • MATLAB

发表于 本文字数： 0 阅读时长 ≈ 1 分钟

发表于 更新于 分类于 本文字数： 3.9k 阅读时长 ≈ 14 分钟

Observation-Centric SORT: Rethinking SORT for Robust Multi-Object Tracking[1]

作者是来自CMU、上海AI Lab和英伟达的Junkun Cao, Jiangmiao Pang, Xinshuo Weng, Rawal Khirodkar, Kris Kitani. 论文引用[1]:Cao, Jinkun et al. “Observation-Centric SORT: Rethinking SORT for Robust Multi-Object Tracking.” 2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2022): 9686-9696.

Time

  • 2023.Feb

Key Words

  • limitations of SORT: sensitivity to the noise of state estimations, error accumulation over time and being estimation-centric
  • Observation-Centric SORT, Simple，Online, and Real-Time
  • occlusion and non-linear object motion
阅读全文 »

发表于 本文字数： 0 阅读时长 ≈ 1 分钟

发表于 更新于 分类于 本文字数： 1.9k 阅读时长 ≈ 7 分钟

MixFormer: End-to-End Tracking with Iterative Mixed Attention[1]

作者是来自南大的Yutao Cui, Cheng Jiang, Limin Wang, Gangshan Wu. 论文引用[1]:Cui, Yutao et al. “MixFormer: End-to-End Tracking with Iterative Mixed Attention.” 2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (2022): 13598-13608.

Time

  • 2022.Mar

Key Words

  • compact tracking framework
  • unify the feature extraction and target integration solely with a transformer-based architecture

VOT，MOT,SOT的区别

  1. VOT是标首帧，MOT是多目标追踪，SOT是单目标追踪。

动机

  1. Tracking经常用多阶段的pipeline：feature extraction，target information integration，bounding box estimation。为了简化这个pipeline，作者提出了一个紧凑的tracking框架，名为MixFormer。

  2. target information integration解释： fuse the target and search region information

阅读全文 »

发表于 分类于 本文字数： 267 阅读时长 ≈ 1 分钟

在Ubuntu 20.04里安装 Nvidia RTX 3060显卡的驱动

  1. 之前照着网上的教程弄过一次，记得是通过命令行来弄的，结果搞得黑屏，好不容易解决了黑屏的问题，进入桌面之后，显示不了Wifi和蓝牙，好像缺了很多东西，搞得很狂躁。这两天跑Tracking，大部分是Ubuntu环境下的，就趁这次机会重装一下系统，然后找个新的教程

  2. 找到了两个方式：

    • 通过 Ubuntu 自带的Software & updates里头的additional drivers里，能看到有 Nvidia的显卡驱动，勾一个合适的就行，很简单。。全程没有什么bug。。害得我上次弄了好久。
    • 去nvidia官网上下载驱动，名称一般是 Nvidia-Linux-xxx.run，运行的时候需要先禁用掉 nouveau，在哪个文件里加上: blacklist nouveau, options nouveau modeset=0，然后重启，看看lsmod一下，看看nouveau有没有被禁用掉。然后运行 .run文件，在运行.run文件的时候：提示可以用Ubuntu里 additional drivers来安装。
0%