第一次在blog上粘代码时觉得很郁闷,缩进变得很短,关键字也没有颜色变化(当然这么简单的用复制粘贴也只能是这种效果)后来自己用c#做了个小程序,用来在代码里贴上html标签。折腾里一个晚上,费了不少劲。第二天在自习室里泡了一整天,终于看到了Lex的使用,这时才恍然大悟,原来昨晚做的就是词法分析,那干吗不用现成的工具作呢?
选择工具
Unix下的Lex是词法分析生成器的祖师,这个软件我们应该是很难见到,不过他的后继们使用起来都差不多。比较容易找到是Linux下的flex,如果想在Windows下使用,可以安装Cygwin。作为辅助工具,我觉得utraledit也值得装一下,使用起来比vi和Xemacs好用一些,而Notepad又不支持Unix的换行。如果喜欢别的语言,也可以去网上找些相应的Lex工具,比如生成Java的JLex,以及用JLex扩展出的C#Lex.
学习工具
flex有详细的使用说明。想查的话在Linux/Cygwin的控制台里敲man flex 不过在控制台里一页一页的看很烦人,不如敲man flex>flextut.txt 然后用UltraEdit慢慢看。另外,网上关于flex使用的文章很多。至于C#Lex,相关的文章不多,遇到问题可以找有关JLex的文档。
写脚本
把代码转成Html源文件的第一步应该是替换特殊字符,看看用flex怎么写。
%option noyywrap%%
" " {printf(" ");}
"<" {printf("<");}
">" {printf(">");}
"/n" {printf("<br>");}
"/t" {printf(" ");}
%%
int main()
{
printf("<FONT face=/"Courier New/" size=2>");
yylex();
printf("</FONT>");
}
flex的输入文件(.l)文件由%%分成了三部分,大致上可以把他们看作是函数(yylex( ))前,函数内和函数后。简单的字符转换不需要写宏定义,第一部分本来什么也不用写了,但他生成的代码总是不能通过编译,说缺少yywrap的定义。后来多方查找反复试验终于发现,在前面加个%option noyywrap就好了
第二部分是行为定义,也就是说匹配到什么串就执行什么操作,是整个flex脚本的核心。前面的字符替换应该一目了然。最后一部分是在函数外面运行的,通常要写个main函数。现在这个东西就可以看作是个flex的最简单应用了。然后保存文件replace.l,运行flex replace.l会生成一个lex.yy.c,这就是根据你的脚本生成的c源文件了。编译(gcc lex.yy.c)、运行(a.exe<code.txt>des.txt)。des.txt里的东西就是替换后的文本了。
处理完特殊字符后,就要处理保留字和注释的着色,这时候就看出来flex的强大了。代码如下:
%option noyywrap
%{
#include<string>
#include<cstdio>
using namespace std;
string keywords[]={"class","namespace","if","else","while","null","char",
"int","string","private","public","protected","get",
"set","value","true","false","double","return","for",
"virtual","override","void","bool","foreach","in","is",
"as","using","new","this",""};
%}
digit [0-9]
alpha [A-Za-z]
comment "//"([^>])*/>
String /"([^"]*("//"")?)*/"
identify {alpha}({alpha}|{digit})*
%%
{comment} {printf("<font color=green>%s</font>",yytext);}
{identify} {
int iskey=0;
for(int i=0;keywords[i]!=string("");i++)
if(string(yytext)==keywords[i])
{
iskey=1;
break;
}
if(iskey)
printf("<font color=blue>%s</font>",yytext);
else
printf("%s",yytext);
}
{String} {printf("%s",yytext);}
%%
int main()
{
yylex();
}
在第一部分里有一个%{ %}括起来的部分,在这里可以添加yylex( )函数外想写的东西,通常要有些#include命令。另外,虽然按照默认规定,用flex生成的是c源文件,但可以使用stl库,只是编译时得使用g++。
第一部分剩下的东西可以看作是宏定义,给你喜欢的正则表达式起个别名,第二部分定义行为时,只要在这个宏名外加个{}就行了。