面向 EAST/ITER 托卡马克装置的智能维护机器人系统,支持瓷砖拆装、螺栓装配、阀门操作、连接器插接等多种维护任务。
本项目实现了一个生产级具身智能训练框架,核心特性:
- 多模态感知融合 - 视觉、触觉、力觉、本体感知的 Transformer 融合
- 分层强化学习 - 高层策略生成子目标,低层策略执行精细动作
- 混合力/位置控制 - 自适应相位检测与控制模式切换
- 模型预测控制 (MPC) - 接触状态下的精确力跟踪
- 域随机化 - 支持 Sim2Real 迁移的全面随机化
- 故障容错 - 实时健康监控与优雅降级
embodied_ai/
├── configs/ # 配置模块
│ ├── depth_camera_config.py # 深度相机参数 (Zivid Two)
│ └── domain_randomization_config.py # 域随机化配置
│
├── controllers/ # 控制器模块
│ ├── robot_controller.py # 基础阻抗控制器
│ ├── mpc_controller.py # MPC 力跟踪控制器
│ └── hybrid_force_motion.py # 混合力/位置控制器
│
├── envs/ # 仿真环境
│ ├── fusion_connector_env.py # 连接器插接环境
│ ├── fusion_reactor_env.py # 反应堆维修基础环境
│ ├── tile_manipulation_env.py # 瓷砖拆装环境
│ ├── bolt_assembly_env.py # 螺栓装配环境
│ ├── valve_operation_env.py # 阀门操作环境
│ └── domain_randomization.py # 域随机化包装器
│
├── models/ # 神经网络模型
│ ├── pointnet2_pose.py # PointNet++ 位姿估计
│ ├── multimodal_transformer.py # 多模态 Transformer 融合
│ └── hierarchical_policy.py # 分层 SAC 策略
│
├── sensors/ # 传感器模型
│ ├── sensor_models.py # 力/位置传感器
│ └── tactile_sensor.py # 触觉传感器 (阵列/GelSight/BioTac)
│
├── training/ # 训练模块
│ ├── sac_agent.py # SAC 智能体
│ ├── train_demo.py # 训练主程序
│ └── diagnose_training.py # 训练诊断工具
│
├── fault_tolerance/ # 故障容错模块
│ ├── health_monitor.py # 实时健康监控
│ └── graceful_degradation.py # 优雅降级管理
│
├── communication/ # 通信模块
│ └── ros2_interface.py # ROS2 接口 (仿真桥接)
│
├── tests/ # 测试套件
│ ├── test_controllers.py # 控制器单元测试
│ ├── test_sensors.py # 传感器单元测试
│ ├── test_environments.py # 环境单元测试
│ └── integration_tests.py # 集成测试
│
└── utils/ # 工具函数
├── pointcloud_utils.py # 点云处理
└── font_config.py # 字体配置
第一壁瓷砖的拆卸与安装,支持:
- 瓷砖类型:钨、石墨、铍、碳纤维复合材料
- 固定方式:螺栓固定、卡扣固定、钎焊固定、机械互锁
- 任务阶段:定位 → 接近 → 解锁 → 提取 → 运输 → 安装 → 固定 → 验证
from embodied_ai.envs import make_tile_env, TileType
env = make_tile_env(task_type="extract", tile_type=TileType.TUNGSTEN)精密螺纹操作,支持:
- 螺栓类型:六角头、内六角、Torx、梅花、螺柱
- 关键挑战:螺纹寻找、扭矩控制、损伤避免
- 失效模式检测:交叉螺纹、滑丝、过扭矩、工具打滑
from embodied_ai.envs import make_bolt_env, BoltType
env = make_bolt_env(task_type="tighten", bolt_type=BoltType.HEX_HEAD)冷却剂/气体/真空系统阀门操作,支持:
- 阀门类型:闸阀、截止阀、球阀、蝶阀、针阀
- 关键挑战:高扭矩要求、卡滞阀门处理、密封验证
- 流体类型:水、氦气、氮气、真空、液态锂
from embodied_ai.envs import make_valve_env, ValveType
env = make_valve_env(task_type="open", valve_type=ValveType.BALL)电气/流体连接器的精密插接,支持:
- 位置精度:< 5mm
- 姿态精度:< 1°
- 最大接触力:< 50N
from embodied_ai.envs import FusionConnectorEnv
env = FusionConnectorEnv()融合四种感知模态:
from embodied_ai.models import MultiModalTransformer, MultiModalTransformerConfig
config = MultiModalTransformerConfig(
vision_dim=256, # 点云特征维度
tactile_dim=32, # 触觉特征维度
force_dim=6, # 力/力矩维度
proprio_dim=14, # 本体感知维度 (关节位置+速度)
output_dim=512 # 融合特征维度
)
model = MultiModalTransformer(config)两级策略架构:
- 高层策略:子目标生成、技能选择 (10步时域)
- 低层策略:精细动作执行、力控制 (5步时域)
- 后见经验回放 (HER):稀疏奖励下的高效学习
from embodied_ai.models import HierarchicalSACAgent, HierarchicalPolicyConfig
config = HierarchicalPolicyConfig(
obs_dim=obs_dim,
action_dim=action_dim,
subgoal_dim=6,
high_level_horizon=10,
low_level_horizon=5
)
agent = HierarchicalSACAgent(config)自适应相位检测与控制切换:
| 相位 | 控制模式 | 说明 |
|---|---|---|
| APPROACH | 纯位置控制 | 快速接近目标 |
| ALIGN | 精细位置控制 | 对准调整 |
| SEARCH | 螺旋搜索 | 接触点寻找 |
| CONTACT | 混合控制 | 建立稳定接触 |
| INSERT | 力控制为主 | 精确插入操作 |
| VERIFY | 位置保持 | 验证任务完成 |
from embodied_ai.controllers import HybridMotionForceController, HybridControllerConfig
controller = HybridMotionForceController(HybridControllerConfig())
control = controller.compute_control(
ee_pose=ee_pose,
ee_velocity=ee_velocity,
force_torque=force_torque,
target_pose=target_pose,
target_force=target_force
)基于二次规划的模型预测控制:
- 预测时域:10步
- 求解时间:< 4ms
- 力跟踪误差:< 2N
from embodied_ai.controllers import ForceTrackingMPC, MPCConfig
mpc = ForceTrackingMPC(MPCConfig(horizon=10, dt=0.004))
control = mpc.compute_control(state, target_force)全面的仿真到现实迁移支持:
from embodied_ai.envs import make_randomized_env
from embodied_ai.configs import get_full_randomization
config = get_full_randomization()
env = make_randomized_env("FusionConnector-v0", config)随机化类别:
- 视觉随机化:纹理、光照、相机噪声
- 物理随机化:摩擦系数、质量、阻尼
- 传感器随机化:噪声、漂移、延迟
- 几何随机化:目标位置、障碍物
- 执行器随机化:增益偏差、死区
多种触觉传感器模型:
from embodied_ai.sensors import TactileSensorArray, GelSightSensor, BioTacSensor
# 电阻式阵列传感器
tactile = TactileSensorArray(TactileSensorConfig(resolution=(16, 16)))
# GelSight 光学触觉传感器
gelsight = GelSightSensor(TactileSensorConfig(resolution=(240, 320)))
# BioTac 仿生触觉传感器
biotac = BioTacSensor(TactileSensorConfig())实时健康监控与优雅降级:
from embodied_ai.fault_tolerance import RealTimeHealthMonitor, GracefulDegradationManager
monitor = RealTimeHealthMonitor(num_joints=7)
manager = GracefulDegradationManager()
# 更新健康状态
metrics = monitor.update(joint_positions, joint_velocities, joint_torques, force_torque)
# 根据健康状态调整运行模式
if metrics.anomaly_detected:
manager.handle_anomaly(metrics)降级模式:
- FULL_CAPABILITY - 全功能运行
- REDUCED_SPEED - 降低速度 (50%)
- REDUCED_PRECISION - 降低精度要求
- SAFE_HOLD - 安全保持位置
- EMERGENCY_STOP - 紧急停止
# 核心依赖
pip install torch torchvision
pip install gymnasium
pip install pybullet
pip install numpy scipy
pip install tensorboard tqdm
# 可选依赖
pip install open3d # 点云可视化
pip install matplotlib # 绘图
pip install cvxpy # MPC 求解器
pip install pytest # 测试# 测试瓷砖拆装环境
python -c "from embodied_ai.envs import make_tile_env; env = make_tile_env(); print(env.reset())"
# 测试螺栓装配环境
python -c "from embodied_ai.envs import make_bolt_env; env = make_bolt_env(); print(env.reset())"
# 测试阀门操作环境
python -c "from embodied_ai.envs import make_valve_env; env = make_valve_env(); print(env.reset())"# 基础 SAC 训练
python embodied_ai/training/train_demo.py --mode train --episodes 1000
# 带可视化训练
python embodied_ai/training/train_demo.py --mode train --render --episodes 500
# 评估模型
python embodied_ai/training/train_demo.py --mode eval --load_model ./checkpoints/best_model.pt# 运行所有测试
pytest embodied_ai/tests/ -v
# 运行特定测试
pytest embodied_ai/tests/test_controllers.py -v
pytest embodied_ai/tests/test_environments.py -v
pytest embodied_ai/tests/integration_tests.py -v| 指标 | 要求 | 实现 |
|---|---|---|
| 控制频率 | 240 Hz | 240 Hz |
| MPC 求解时间 | < 4ms | ~3ms |
| 力跟踪误差 | < 2N | < 2N |
| 位置精度 | < 5mm | < 3mm |
- ISO 10218 - 工业机器人安全
- ISO/TS 15066 - 协作机器人安全
- 多区域安全监控
- 紧急停止响应 < 100ms
- 域随机化配置与包装器
- MPC 力跟踪控制器
- 混合力/位置控制器
- 多模态 Transformer 融合
- 分层 SAC 策略
- 触觉传感器模型
- 健康监控与优雅降级
- 瓷砖拆装环境
- 螺栓装配环境
- 阀门操作环境
- ROS2 接口 (仿真桥接)
- 单元测试与集成测试
- GNN 空间推理模块
- 元学习快速适应
- 分布式共识 (多机器人)
- 遥操作模块
- 分层训练器
- 课程学习
- SAC: Soft Actor-Critic
- PointNet++
- Hindsight Experience Replay
- Domain Randomization for Sim2Real
- PyBullet
- ISO 10218 - 工业机器人安全标准
- ISO/TS 15066 - 协作机器人安全规范
MIT License