本发明公开了一种基于边缘网关设备的视频或图像AI分析设备及系统，所述分析设备的软件系统基于微服务框架，所述微服务框架包括多个功能相对独立的微服务，所述多个微服务之间采用GRPC和Mqtt消息进行通信和接口调用，所述微服务框架仅具有服务注册、服务监控和数据总线功能。在设计上我们采用了精简的架构，保留了微服务框架具备的服务注册、服务监控、数据总线的功能特性，去掉了负载均衡、容错机制、熔断机制、链路监控等高级功能，代码自主实现，减小了内存和cpu的消耗，使它适用于资源受限系统。