http://red5.github.io/ red5 참고하세요.
스트리밍서버이고 플래시플레이어까지 제공해줍니다.

개발자는 특정영역에 파일 올리면 나머지는 알아서 처리해줍니다.

모바일에서 서비스 할려고 합니다.. 그래서 플래시는 안될 것 같고 다른건  없을가요???

스트리밍서버로 구글에서 검색해보세요. red5를 본지가 좀 되서 플레이어가 다른게 제공될 수도 있습니다. 
html5 플레이어도 찾아보시구요.

스트리밍 서버는 http://www.wowza.com 를 이용하시면 될듯합니다. 개발기간중에는 트라이얼 라이선스를 받으신 후
실서비스 하실 때 구매하셔서 이용하시면 됩니다. 서버 설정 방법은 구글에서 검색하시면 많이 나옵니다..

혹시 인코딩 서버까지 직접 구축하시는 건가요?
서버에 ffmpeg을 설치하여 인코딩하시면 됩니다만 인코딩 옵션등은 공부를 하셔야 할것 같습니다 ^^;
아니면 Adobe Media Encoder나 다른 인코딩 프로그램등을 이용하여 인코딩하신 후 업로드하여 서비스하는 방법도 있습니다.

https://kldp.org/node/151751

mp4포맷으로 인코딩하면 html5 video 태그로 플레이 가능하다고 하네요

 될 수 있는한 직접 구축할려고 합니다.. 안드로이드,아이폰 상관없이 업로드시 mp4로 인코딩해서 저장해서 출력하게 할려고 합니다.
참고할만한 사이트나 프로그램 있으면 가르쳐 주세요...

몇명 정도가 업로드하는지, 몇명정도가 사용하는지에 대한 정보가 없네요.
동영상 인코딩은 서버자원을 상당히 사용합니다. 인코딩 서버는 따로 구성하여 처리하는등
스트리밍 사이트의 목적, 사용자구성에 따라 다릅니다.

스트리밍서버와 인코딩은 다른 개념이구요. 직접 구현하신다면 업로드후 인코딩(이것도 옵션별로 인코딩해서 
모든 브라우저가 지원하도록 처리해야합니다. 2009년인가 모든 브라우저(html5 video tag)를 만족하는 인코딩 옵션 올려놓은 적이 있습니다.),
인코딩된 파일을 스트리밍서버에서 스트리밍서비스.
주소로 직접 접근을 막는 경우의 처리, 로그인 처리 등등 복잡합니다.
스트리밍 서버의 경우 네트워크 대역폭도 신경써야하구요.

몇명이 사용하는 사이트냐에 따라 고려할 것과 고려하지 않아도 될 것이 있습니다.

모바일 앱에서 동영상 서비스를 하기 위해서 구축하려고 합니다.. 최대 1천명 정도로 생각하면 많은건가요??
지금 앱 사용자가  전부 다 해서 1천명 정도 됩니다.. 

비슷한 경험을 했었네요. 기존에 녹음용으로 운영하던 red5가 있어서 mp4(h.264) 스트리밍도 하려고 했으나 설정을 바꾸지 않은 탓인지

자주 끊어지더군요. 사실 red5로 녹음서비스도 많이 쓰고 있던 터라 걍 방향을 틀고, nginx에 h.264 관련 모듈을 얹어서 설치했습니다.

( KT의 유클라우드 서버에 설치했기 때문에 실서비스용 웹서버보다 네트웍도 더 좋았네요).  

동영상플레이어는 flowplayer에 http-pseudostreaming 플러그인과 모바일용 조금의 수정을 가해서 사용중입니다.

이렇게 해서 무료로 뿌려지는 동영상들을 서비스한지 약 2년 못 미치는 기간동안 잘 써먹고 있습니다.

기존에 쓰던 CDN보다 체감상 속도도 빠르구요. 

ffmpeg은 서버에 설치해서 여러 가지 용도로 잘 써먹고 있습니다. 음원을 추출한다던지, 동영상을 쪼개던지, 합치던지 등등..