그거 저도 프로젝트 때문에 시도해 본적이 있었는데,

안되더라구요. 아무리 인터넷을 검색해도 딱히 방법이 떠오르지 않고 ..

가지고 있는 지식을 동원해서 생각해봐도 답이 안나와서 결국 포기했던 기억이 있네요 

bootstrap에서 모달 창을 띄우면 아래에 검정 화면으로 바뀌고 위에 모달 화면이 나타나쟌아요? 그 원리를 이용하면 되지 않을까 싶습니다. 즉, div안에 iframe을 넣고 또 그 아래 div를 두되 화면 전체를 커버하게 함으로써 실제적으로 휠 효과가 없게 만드는 방법입니다.

복잡하게 생각할 필요가 없었네요.
다이얼로그 창이 뜰 때 스크롤위치를 고정시키는 함수를 실행하면 됩니다. 
$("body").scrollTop(0);