RadioBOSS работает в Ubuntu под Wine. Возможно, в других nix системах, где есть Wine тоже будет работать.
По поводу сайта, это к RadioBOSS'у имеет мало отношения. Такие вещи нужно писать с нуля, или искать где-нибудь готовое, которое подойдет к вашему серверу. Проще будет воспользоваться услугами Stream hosting компаний - radiostyle.ru, live365.com, и подобных. Там такой функционал есть.
