O GtkRadiant é um editor "genérico", não depende de engine de jogo para rodar, por isso ele é extremamente leve e funcional. O que você monta no editor são os brushes e texturas, só, toda a parte de ver luzes e sombras, coisas se movendo e efeitos especiais só são vistas depois de compilar o seu mapa e carregá-lo no jogo (com exceção do Doom 3 que tem preview dentro do editor). É estranho no começo, mas é só pegar a prática que fica fácil fazer mapas. Uma das coisas é que o radiant é "estilo office", com um monte de teclas de atalho e comandos.
Pra fazer mapa você vai usar duas coisas: brushes e entities. Brushes é a estrutura do mapa (paredes, teto). E entities é tudo que povoa seu mapa, luzes, coisas móveis, efeitos especiais.
Em edit → Preferences → Interface → Layout você pode arranjar as janelas do editor de acordo com o seu gosto. É recomendável usar resolução mínima de 1024 x 768. O editor também suporta o recurso de mais de um monitor.
Câmera: Use o botão direito do mouse no viewpoint 3D para alternar para o modo de movimentação livre. Com as setas do teclado você "voa" pelo mapa. Fora do modo câmera livre você pode usar as setas para "navegar" pelo mapa mais lentamente. Para dar zoom in / ou aperte insert ou delete.
Brushes: Os brushes são "desenhados" no viewpoint 2D, com o botão esquerdo você arrasta uma caixa de linhas amarelas ("desselecione" qualquer outra coisa antes de adicionar um brush). O brush deverá estar vermelho no viewpoint 3D e amarelo no 2D, para movê-lo enquanto ele está selecionado simplesmente clique e arraste. Para mover com mais precisão aperte W e arraste clicando nas setas coloridas, aperte W de novo para sair deste modo. Para apagar um brush aperte backspace.
Para adicionar brushes de outras formas, vá no menu Brush e escolha entre cone, prisma ou esfera, digite um número de faces e o brush selecionado será transformado (se não for é porque o tamanho do brush tem que ser maior, mais grosso / mais alto).
Patch meshes: Para adicionar uma patch mesh selecione um brush, vá no menu Curve e escolha entre caps, simplepatch mesh, bevels e cilindros. A patch mesh é adiciona no mesmo lugar e com o mesmo tamanho do brush selecionado. Com as opções matrix, insert e delete você pode inverter a patch mesh e adicionar ou remover mais vértices.
Com o botão Cap você "fecha" uma patch mesh, "selando" as bordas.
Rotação: Com esses botões você gira o brush / patch mesh / entidade / vértices em todas as direções, sempre dando giros de 90 graus. Vá no menu Modify > rotate pra escolher o ângulo diferente. Para entrar no modo de rotação livre aperte R.
Edição de vértices: Selecione o brush e aperte E = Edges / F = Faces (Face drag só tem no GTK 1.5 ou mais recente) / V = Vertexs. Aperte de novo pra sumir os pontinhos verdes. O mesmo procedimento para arrastar brushes vale para vértices, cantos e faces. A tecla W também funciona, para selecionar um vértice nesse modo segure a tecla shift além de clicar.
Um vértice arrastado para cima de outro é fundido.
Scale: Aumenta ou diminui a escala do brush ou mesh selecionado. Clique e arraste nos eixos.
Texture lock: Impede o editor de automaticamente alinhar as texturas de um brush quando você move ou edita ele.
Clipping tool: Selecione um ou mais brushes, com o botão esquerdo você coloca pontos azuis para marcação. No Viewpoint 3D aparecerá uma face azul indicando qual lado do brush será apagado. Para apagar aquele lado aperte enter. Para inverter a face azul inverta o sentido dos pontos (horário ou anti horário).
Hollow: Recorta um brush em várias partes pra formar um brush ôco. Essa ferramenta deixa os brushes criados "atravessados" nos cantos, cuidado.
Merge: Junta dois brushes selecionados num só.
Subtract: Faz o brush selecionado recortar todos os brushes que ele estiver atravessando, fazendo um buraco. Delete o brush selecionado para abrir o buraco.
As ferramentas hollow e subtract sempre recortam os brushes de maneira que se faça o menor número possível de recortes.
Renderização
Em Edit > preferences > display você pode mudar a qualidade das texturas mostradas no mapa dentro do editor, se isso afetar a performance no seu computador. A opção hardware texture compression parece habilitar o suporte pra texturas comprimidas no formato opengl ou DXT (dentro do editor).
Em Camera você pode ligar a opção far-clip plane. O far-clip plane serve para limitar o horizonte renderizado do mapa, melhorando o desempenho do editor.
Em Ortographic você pode desligar a opção update views on camera move. Esta opção liga um preview em tempo real de todos os viewpoints que deixa o editor muito mais lento.
Funcionamento geral
Grid: Com as teclas numéricas de 1 a 9 você muda o tamanho da grid. Com a tecla 0 você desliga a grid.
Seleção: Segure shift e arraste uma caixa de seleção com o mouse, funciona tanto em 2D quanto 3D. Para selecionar individualmente o processo é mesmo, mas basta não arrastar uma caixa de seleção. Para cancelar a seleção aperte esc.
Texturas: para selecionar só uma face do brush use shift + ctrl + clique (o pontinho azul é o centro da face). Aperte T pra aparecer o browser de texturas. Selecione a textura e ela é automaticamente aplicada. Pra mudar o alinhamento da textura e escala aperte S pra aparecer a janela de alinhamento de texturas. Pra mover a textura você também pode selecionar a face e usar SHIFT + Setinhas do teclado. Use SHIFT + S para alinhar texturas em patch meshes.
Entidades: Para adicionar uma use o botão direito do mouse em qualquer viewpoint 2D (não funciona no 3D porque lá ele já tem a função de entrar no modo de câmera livre). Aparecerá um menu com todas as entidades disponíveis, selecione uma e ela será adicionada no seu mapa. Com a entidade selecionada aperte N para abrir o menu com as propriedades daquela entidade. Os valores em cada campo do menu são confirmados com Enter. OBS: No GTK 1.5 não existe mais a entidade World Spawn, para abrir as propriedades dela selecione um brush e aperte N.
Duplicar: Para duplicar um objeto selecionado aperte espaço.
Opções automáticas: O editor lembra das medidas do último brush ou patch mesh adicionado, sempre que você adiciona um novo brush ou patch mesh ele usa as medidas do último que você adicionou automaticamente.
Texturas sempre são automaticamente alinhadas. Se você não quiser que o editor alinhe automaticamente uma texture, ative o botão texture lock antes de mover um brush ou mesh.
O formato BSP impede que sejam usados brushes côncavos ou com faces não planares, sempre que você edita os vértices de um brush o editor nunca deixará que ele se torne côncavo ou uma de suas faces deixe de ser planar. Duas faces de um mesmo brush também nunca poderão estar no mesmo plano. (O brush desaparece quando ele se torna incompatível com o formato BSP).