文章
5
标签
0
分类
0
主页
博文
分类
标签
归档
Some grotesque files
友链
虫洞
留言板
关于我
Kalo
LLM-learning
搜索
主页
博文
分类
标签
归档
Some grotesque files
友链
虫洞
留言板
关于我
LLM-learning
发表于
2025-05-26
|
更新于
2025-11-02
|
总字数:
485
|
阅读时长:
2 mins.分钟
|
浏览量:
学习随记
一些关于注意力机制和Transformer的Q&A
任意两个n维随机向量的夹角服从什么分布？
论文阅读
文章作者:
Kaloper
文章链接:
https://kalopers.github.io/posts/be8b/
版权声明:
本博客所有文章除特别声明外，均采用
CC BY-NC-SA 4.0
许可协议。转载请注明来源
Kalo
！
上一篇
weeklynote-1
一、 本周工作总结本周主要是在之前的工作上进一步调研。 对端到端自动驾驶的攻击方法再次进行了调研，发现实在是没有新的工作（之前做过这个方向的小组最新的工作也转向了对VLA for AD的对抗攻击）（考虑的是应该型不太通）； 此外还对基于传统视觉模型和VLM的以补丁和纹理形式的对抗攻击进行了调研。 二、 主要进展 端到端自动驾驶的攻击方法调研 在《Attack End-to-End Autonomous Driving through Module-Wise Noise》中提出的对端到端的攻击方法仅仅只是在模型forward过程中，向每个层的原始输入x添加一个扰动噪声（原文称为对抗噪声），并以模型的最终总的loss提升作为攻击指标，而没有设定任何实际的下游任务作为攻击目标。 此外，最近关于E2E自动驾驶的研究也多转向其中的一个模块（例如在半反应模拟中根据多传感器数据生成驾驶轨迹等任务），而不再是之前UniAD这样大一统的实现完成所有可能设计的任务。此外之前follow的北航一个博士目前也转向了做对于AD-VLM的对抗攻击。 《Black-Box Adversarial...
下一篇
CS144 - Networking Lab 心得体会
最近在做2024 winter的cs144的实验，顺带复习一下计网的相关内容。 课程主页：CS 144: Introduction to Computer Networking, Winter 2024环境配置： 为了方便选择在本地搭建虚拟机进行测试，课程提供了非常详细的虚拟机镜像和安装、配置教程，不在赘述。 建设好虚拟机后，为了小命和使用体验，请第一时间换源(最近发现ustc的镜像站可以直接通过wget下载到换源后的source.list，解决了换源时候虚拟机和宿主机之间粘贴板不互通的问题)(主要还是我懒得装增强插件) 安装必要的运行环境： 1234$ sudo apt update && \ sudo apt install git cmake gdb build-essential clang \ clang-tidy clang-format gcc-doc \ pkg-config glibc-doc tcpdump...
目录
1.
学习随记
2.
论文阅读
搜索
数据加载中
