Как называется локальный файл сервер в виндовс к которому подкл как \\
 

Например \\192.168.1.1
Как он поднимается?

называется он - файловый сервер.
поднимается он - установкой любой Windows ОС, с настройкой "общего доступа" к нужным папкам.

Также в качестве псевдонима для локального сервера в большинстве случаев может использоваться «.».

Это как бы уже не совсем (или совсем не) локальный сервер.

Опишите подробнее, что Вы хотите.

Я хочу понять его принцип работы по OSI и как туда происходит подключение.

на прикладной уровне используется протокол SMB
а далее все остальные уровневые протоколы :)

Ясно. Поищите книгу «Сетевые ресурсы Windows NT», там это подробно расписано, в том числе и как различные протоколы «размазаны» по классической семиуровневой модели OSI. Последнее, впрочем, годится нынче разве что для ознакомления.

Вот с этим проще: OSI никем не было реализовано. Поэтому оно просто не существует и не работает.

вот ещё почитайте, как работает сам протокол. тут правда про версию 1.0 - до висты. с Windows 8 будет 3 версия.
все остальные уровни и протоколы - стандартны. Я вот только не могу найти правильное описание и порядок...
Могу порекомендовать вам почитать книгу В.Олифер и Н.Олифер. Компьютерные сети 2010(pdf). Первая в списке.