兄弟盟，这个项目咋打断点调试呀

[morning-hao]

pycharm 能调试python脚本，但是调不了这样的cmd命令：llamafactory-cli train .\examples\lora_single_gpu\qwen2_lora_sft.yaml

[BaiqingL]

https://www.jetbrains.com/help/pycharm/terminal-emulator.html#new-terminal

[morning-hao]

谢谢，这个可以直接运行，我想的是打断点调试看看~

[CloudyDory]

可以用vscode调试：在launch.json里输入
{ "name": "SFT", "type": "debugpy", "module": "torch.distributed.run", "request": "launch", "console": "integratedTerminal", "args": [ "--nproc_per_node", "4", "/home/xxx/project/LLaMA-Factory/src/llamafactory/launcher.py", "./lora_sft.yaml", ], "justMyCode": false, "subProcess": true, }
就可以进入到子进程的断点中。LLaMA-Factory在用LORA微调时llamafactory-cli实际上背后就是启动torchrun launcher.py脚本。

[PrimaLuz]

你好，我使用你的debug配置的时候发现，如果我有四台设备，对应了四个进程，debug的时候会运行四遍，这个问题该怎么解决呢？

[CloudyDory]

把--nproc_per_node调成1看看

[rXYZkit]

https://www.llamafactory.cn/vscode-debug-llm.html 官方很nice