@@ -67,6 +67,10 @@ ifeq ($(UNAME_S),Darwin)
6767 endif
6868endif
6969
70+ ifdef LLAMA_RPC
71+ BUILD_TARGETS += rpc-server
72+ endif
73+
7074default : $(BUILD_TARGETS )
7175
7276test : $(TEST_TARGETS )
@@ -417,11 +421,10 @@ ifdef LLAMA_BLIS
417421endif # LLAMA_BLIS
418422
419423ifdef LLAMA_RPC
420- MK_CPPFLAGS += -DGGML_USE_RPC
421- OBJS += ggml-rpc.o
424+ MK_CPPFLAGS += -DGGML_USE_RPC
425+ OBJS += ggml-rpc.o
422426endif # LLAMA_RPC
423427
424-
425428ifdef LLAMA_CUBLAS
426429# LLAMA_CUBLAS is deprecated and will be removed in the future
427430 LLAMA_CUDA := 1
@@ -647,6 +650,10 @@ ggml-metal-embed.o: ggml-metal.metal ggml-common.h
647650endif
648651endif # LLAMA_METAL
649652
653+ OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
654+ COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
655+ COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
656+
650657ifndef LLAMA_NO_LLAMAFILE
651658sgemm.o : sgemm.cpp sgemm.h ggml.h
652659 $(CXX ) $(CXXFLAGS ) -c $< -o $@
@@ -655,8 +662,13 @@ endif
655662ifdef LLAMA_RPC
656663ggml-rpc.o : ggml-rpc.cpp ggml-rpc.h
657664 $(CXX ) $(CXXFLAGS ) -c $< -o $@
658- endif # LLAMA_RPC
659665
666+ rpc-server.o : examples/rpc/rpc-server.cpp ggml-rpc.h
667+ $(CXX ) $(CXXFLAGS ) -c $< -o $@
668+
669+ rpc-server : rpc-server.o ggml.o llama.o $(COMMON_DEPS ) $(OBJS )
670+ $(CXX ) $(CXXFLAGS ) $^ -o $@ $(LDFLAGS )
671+ endif # LLAMA_RPC
660672
661673GF_CC := $(CC )
662674include scripts/get-flags.mk
@@ -737,14 +749,9 @@ unicode.o: unicode.cpp unicode.h
737749unicode-data.o : unicode-data.cpp unicode-data.h
738750 $(CXX ) $(CXXFLAGS ) -c $< -o $@
739751
740- OBJS += ggml-alloc.o ggml-backend.o ggml-quants.o unicode.o unicode-data.o
741-
742752llama.o : llama.cpp unicode.h ggml.h ggml-alloc.h ggml-backend.h ggml-cuda.h ggml-metal.h llama.h
743753 $(CXX ) $(CXXFLAGS ) -c $< -o $@
744754
745- COMMON_H_DEPS = common/common.h common/sampling.h common/log.h llama.h
746- COMMON_DEPS = common.o sampling.o grammar-parser.o build-info.o json-schema-to-grammar.o
747-
748755common.o : common/common.cpp $(COMMON_H_DEPS )
749756 $(CXX ) $(CXXFLAGS ) -c $< -o $@
750757
0 commit comments