缓冲技术

　　缓冲技术是为了协调吞吐速度相差很大的设备之间数据传送的工作。

　　在数据到达与离去速度不匹配的地方，就应该使用缓冲技术。缓冲技术好比是一个水库，如果上游来的水太多，下游来不及排走，水库就起到“缓冲”作用，先让水在水库中停一些时候，等下游能继续排水，再把水送往下游。

　　通常CPU的速度要比I/O设备的速度快得多得多，所以可以设置缓冲区，对于从CPU来的数据，先放在缓冲区中，然后设备可以慢慢地从缓冲区中读出数据。常见的缓冲技术有：单缓冲，双缓冲，循环缓冲，缓冲池。其中，目前广泛流行使用公用缓冲池。 

　　在操作系统中，引入缓冲的主要原因，可归结为以下几点： 　　

　　1.改善CPU与I/O设备间速度不匹配的矛盾 　　例如一个程序，它时而进行长时间的计算而没有输出，时而又阵发性把输出送到打印机。由于打印机的速度跟不上CPU，而使得CPU长时间的等待。如果设置了缓冲区，程序输出的数据先送到缓冲区暂存，然后由打印机慢慢地输出。这时，CPU不必等待，可以继续执行程序。实现了CPU与I/O设备之间的并行工作。事实上，凡在数据的到达速率与其离去速率不同的地方，都可设置缓冲，以缓和它们之间速度不匹配的矛盾。众所周知，通常的程序都是时而计算，时而输出的。　　

　　2. 可以减少对 CPU的中断频率，放宽对中断响应时间的限制

　　如果I/O操作每传送一个字节就要产生一次中断，那么设置了n个字节的缓冲区后，则可以等到缓冲区满才产生中断，这样中断次数就减少到1/n，而且中断响应的时间也可以相应的放宽。 　　

　　3. 提高 CPU和 I/O设备之间的并行性

　　缓冲的引入可显著提高 CPU和设备的并行操作程度，提高系统的吞吐量和设备的利用率。

　　根据I/O控制方式，缓冲的实现方法有两种:

　　一种是采用专用硬件缓冲器一种是在内存划出一个具有n个单元的专用缓冲区，以便存放输入/输出的数据。内存缓冲区又称软件缓冲。

　　根据系统设置的缓冲器的个数，可把缓冲技术分为： 　　

　　单缓冲：在设备和处理机之间设置一个缓冲器。设备相处理机交换数据时，先把被交换数据写入缓冲器，然后，需要数据的设备或处理机从缓冲器取定数据。由于缓冲器属于临界资源，即不允许多个进程同时对一个缓冲器操作，因此，尽管单缓冲能匹配设备相处理机的处理速度，但是，设备和设备之间不能通过单缓冲达到并行操作。   

　　双缓冲：解决两台外设、打印帆和终端之间的并行操作问题的办法是设置双缓冲。有了两个缓冲器之后，CPU可把输出到打印机的数据放入其中一个缓冲器(区)、让打印机慢慢打印；然后，它又可以从另一个为终端设置的缓冲器(区)中读取所需要的输入数据。   

　　多缓冲：是把多个缓冲区连接起来组成两部分，一部分专门用于输入，另一部分专门用于输出的缓冲结构。   

多缓冲

　　缓冲池：把多个缓冲区连接起来统一管理，既可用于输入又可用于输出的缓冲结构。

　　缓冲池由多个缓冲区组成。

　　而一个缓冲区由两部分组成：一部分是用来标识该缓冲器和用于管理的缓冲首部，另一部分是用于存放数据的缓冲体。这两部分有一一对应的映射关系。对缓冲池的管理是通过对每一个缓冲器的缓冲首部进行操作实现的。

　　缓冲首部包括设备号、设备上的数据块号（块设备时）、互斥标识位以及缓冲队列连接指针和缓冲器号等。

缓冲首部

　　系统把各缓冲区按其使用状况连成三种队列：

　　(1) 空白缓冲队列em，其队首指针为F(em)，队尾指针为L(em)；

　　(2) 装满输入数据的输入缓冲队列in，其队首指针为F(in)，队尾指针为L(in)；

　　(3) 装满输出数据的输出缓冲队列out，其队首指针为F(out)，队尾指针为L(out)。

缓冲区队列

　　另外，在缓冲池中还具有四种工作缓冲区：

　　(1) 用于收容输入数据的工作缓冲区（hin）；

　　(2) 用于提取输入数据的工作缓冲区（sin）；

　　(3) 用于收容输出数据的工作缓冲区（hout）；

　　(4) 用于提取输出数据的工作缓冲区（sout）。 可见，缓冲区工作在收容输入、提取输入、收容输出和提取输出四种工作方式如下：

　　缓冲区四种工作方式

　　对缓冲池的管理由如下几个操作组成：

　　(1)从三种缓冲区队列中按一定的选取规则取出一个缓冲区的过程take_buf(type);

　　(2)把缓冲区按一定的选取规则插入相应的缓冲区队列的过程add_buf(type,number)；

　　(3)供进程申请缓冲区用的过程get_buf(type，number);

　　(4)供进程将缓冲区放入相应缓冲区队列的过程put_buf(type，work_buf)。

　　其中，参数type表示缓冲队列类型，number为缓冲区号，而work_buf则表示工作缓冲区类型。

　　使用这几个操作，缓冲池的工作过程可描述如下：

　　首先，输入进程调用get_uf(em,number)过程从空白缓冲区队列中取出一个缓冲号为number的空白缓冲区，将其作为收容输入缓冲区hin，当hin中装满了由输入设备输入的数据之后，系统调用过程put_buf(in,hin)将该缓冲区插入输入缓冲区队列in中。

　　另外，当进程需要输出数据数据时，输出进程经过缓冲管理程序调用过程get_buf(em,number)从空白缓冲区队列中取出一个空白缓冲区number作为收容输出缓冲区hout，待hout中装满输出数据之后，系统再调用过程Put_buf(out,hout)将该缓冲区插入输出缓冲区队列out.

　　对缓冲区的输入数据和输出数据的提取也是由过程get_buf和put_buf实现的。get_buf(out，number)从输出缓冲队列中取出装满输出数据的缓冲区number，将其作为sout。当sout中数据输出完毕时，系统调用过程put_buf(em,sout)将该缓冲区插入空白缓冲队列。而get_buf(in，number)则从输入缓冲队列中取出一个装满输入数据的缓冲区number作为输入缓冲区sin，当CPU从中提取完所需数据之后，系统调用过程put_buf(em，sin)将该缓冲区释放和插入空白缓冲队列em中。 

　　其实说它为技术，也许不能说是真正的技术。这只不过是我自已想出来的页面处理的方法，当然与别人 的想法可能是一致的。不过我还是想给它一个好听的名字。那么我这里所指的页面缓冲是什么呢？就是指将动态生成的页面保存起来，供下一次的使用。这样下一次访问它可能就不需要动态生成了。就象提供了一个cache 一样。在我的网站上，也许你的网站也是如此，使用了象模板之类的技术，这样用户所看到的页面就 是动态生成的。但是一个页面对于你是这样，对于别人可能还是这样，即在一段时间内是不会变化的，如果 将上次生成的结果直接返回给下一次访问的用户不是更好吗？减少了生成时间，效率要高一些。我想随着网 站的发展，速度与效率问题还是要考虑的。这里我给出我的实现，希望对大家有所帮助。只是一个思路，没 有具体的实现。

　　使用条件

　　是不是所有的网页最好都使用呢？我想不需要，而且也不可能。之所以能缓冲就是因为下一次访问与上 一次访问的内容可能是完全一样的。所以对于经常变化的页面就不合适了。比如页面上要显示计数信息的就不太合适。还有就是如果你的动态页面输出时，没有先输出到变量中，而是直接返回给用户，如使用echo， print ，readfile之类的输出，我个人认为现在还作不到。因为无法将输出结果得到，保存到文件中去（反 正我是想了半天没有想出有什么可以将直将输出的东西截下来，重定向到文件中去）。那么比较适的动态页面的处理就是：输出结果应该可以放到一个字符串之中。所以使用条件就是：

　　页面基本不会变化

　　动态页面的处理结果可以存放到字符串中

　　这样使用模板类来处理动态页面就很好了。通过在模板中设置可替换的变量，然后根据实际的值替换相 应的模板中的变量，同时可以将结果放到字符串中进行输出，这种模板类的处理非常适合保存处理后的页面。当然不使用模板类，也可以通过字符串的处理来生成输出结果也是可行的。至于怎么做就不讨论了。

　　实现

　　如前所述，不是一个真正的实现，而是一个实现的思路。

　　处理流程：

　　根据访问的要求，生成缓冲文件名

　　查看文件名是否存在，如果文件不存在，则生成动态页面，将页面保存，同时输出结果，结束；如果 存在，则执行第3步统计文件的修改时间，及与动态页面生成有关的文件的修改时间 比较缓冲文件的修改时间与其它页面的修改时间，如果其它页面修改时间大于缓冲文件修改时间，认为动态结果可能会发生变化，则重新生成动态页面结果，保存到文件中，且输出结果，结束；否则执行第5步

　　说明缓冲文件最新，则直接输出缓冲文件

　　这就是我的处理。至于缓冲文件如何保存，可以建一个临时目录也可以使用数据库处理。如果使用了数 据库则判断文件是否最新的方式也应作变化，比如在数据库中增加生成时间字段，比较这个时间字段与其它文件的修改时间即可。方法大家自已想。

　　我的具体实现的例子

　　为了帮助大家有个感性认识，这里我给出在我的主页上实现的基于文件处理的方法。只有主要的处理代

　　码，不完整。

　　--------------------------------------------------------------------------------

　　<

　　1 $tmpfile="../tmp/".basename($REQUEST_URI);

　　2 $tmpfile=str_replace("?", "_", $tmpfile);

　　3 $tmpfile=str_replace("&", "_", $tmpfile);

　　4 if(file_exists($tmpfile))

　　5 {

　　6 $cflag=false;

　　7 $dtmp=filemtime($tmpfile);

　　8 $itmp=filemtime($incfile);

　　Array $cflag=$cflag | ($dtmp < $itmp);

　　10 $ctmp=filemtime(basename($PHP_SELF));

　　11 $cflag=$cflag | ($dtmp < $ctmp);

　　12 $ttmp=filemtime("template/content.ihtml");

　　13 $cflag=$cflag | ($dtmp < $ttmp);

　　14 }

　　15 else

　　16 $cflag=true;

　　17

　　18 if(!$cflag) //使用存在的文件

　　1Array {

　　20 readfile($tmpfile);

　　21 exit;

　　22 }

　　23

　　24 //创建新的文件

　　25 include "template.class.php3";

　　26

　　27 $fp=fopen($incfile, "r");

　　28 $content=fread($fp, filesize($incfile));

　　2Array fclose($fp);

　　30

　　31 //下面进行模版处理

　　32 $t = new Template("template", "keep");

　　33

　　34 $t->set_file("contentfile","content.ihtml");

　　35

　　36 $t->set_var(

　　37 array(

　　38 "content"=>$content

　　3Array ));

　　40

　　41 $t->parse("outputcontent","contentfile");

　　42

　　43 $fp=fopen($tmpfile, "w");

　　44 if($fp)

　　45 {

　　46 flock($fp, 3);

　　47 fwrite($fp, $t->get_var("outputcontent"));

　　48 flock($fp, 1);

　　4Array fclose($fp);

　　50 }

　　51 $t->p("outputcontent");

　　?>

　　--------------------------------------------------------------------------------

　　先向大家介绍一下我的目录结构：

　　/---bin/ 执行程序目录

　　| |--content.php3 用于处理文件显示的程序

　　| |--template/ 用于存放模板文件的目录

　　| |---content.ihtml 模板文件

　　|-docs/ 数据文件

　　|-tmp/ 存放缓冲文件

　　content.php3文件用来处理动态页面。用户可以通过content.php3?page=id号来读出一个数据文件。具

　　体方法我就不说了，大家只要知道每个数据文件都有一个不同的id号，这样content.php3?page=id号的方式

　　就可以唯一标识一个数据文件。

　　第1-3行，生成临时文件名。将'?','&'等字符替换成'_'。

　　第4行，判断临时文件名是否存在，如果有则执行第18-22行，并结束。

　　第6-13行，判断与生成动态页面有关的文件修改时间与临时文件哪个更新，设置重新生成标志。在这里使用

　　filemtime()来得到最后修改时间。

　　第24-41行，利用模板类生成动态结果，放在变量中。关于模板的处理可以参考《模板，PHPLIB处理方式》

　　一文。

　　第43-50行，生成临时文件。此处对文件进行了加锁处理，以象写冲突。

　　第51行，输出结果。

　　这就是我的处理，大家可以自行修改。

　　缓冲是一项有意义的技术，可以提高访问速度，减少系统消耗。不过方法可能有多种多样，大家可以自

　　由发挥。

　　使用这几个操作，缓冲池的工作过程可描述如下：

　　首先，输入进程调用get_uf(em,number)过程从空白缓冲区队列中取出一个缓冲号为number的空白缓冲区，将其作为收容输入缓冲区hin，当hin中装满了由输入设备输入的数据之后，系统调用过程put_buf(in,hin)将该缓冲区插入输入缓冲区队列in中。

　　另外，当进程需要输出数据数据时，输出进程经过缓冲管理程序调用过程get_buf(em,number)从空白缓冲区队列中取出一个空白缓冲区number作为收容输出缓冲区hout，待hout中装满输出数据之后，系统再调用过程Put_buf(out,hout)将该缓冲区插入输出缓冲区队列out.

　　对缓冲区的输入数据和输出数据的提取也是由过程get_buf和put_buf实现的。get_buf(out，number)从输出缓冲队列中取出装满输出数据的缓冲区number，将其作为sout。当sout中数据输出完毕时，系统调用过程put_buf(em,sout)将该缓冲区插入空白缓冲队列。而get_buf(in，number)则从输入缓冲队列中取出一个装满输入数据的缓冲区number作为输入缓冲区sin，当CPU从中提取完所需数据之后，系统调用过程put_buf(em，sin)将该缓冲区释放和插入空白缓冲队列em中。缓冲池的管理

　　缓冲技术提高JSP程序性能和稳定性

　　一、概述

　　在Web应用中，有些报表的生成可能需要数据库花很长时间才能计算出来；有的网站提供天气信息，它需要访问远程服务器进行SOAP调用才能得到温度信息。所有这一切都属于复杂信息的例子。在Web页面中加入过多的复杂信息可能导致Web服务器、数据库服务器负荷过重。JSP代码块缓冲为开发者带来了随意地增加各种复杂信息的自由。

　　JSP能够在标记库内封装和运行复杂的Java代码，它使得JSP页面文件更容易维护，使得非专业开发人员使用JSP页面文件更加方便。现在已经有许多标记库，它们或者是商业产品，或者是源代码开放产品。但这些产品中的大多数都只是用标记库的形式实现原本可以用一个简单的Java Scriptlet实现的功能，很少有产品以某种创造性的方式使用定制标记，提供在出现JSP定制标记库之前几乎不可能实现的用法。

　　OSCache标记库由OpenSymphony设计，它是一种开创性的JSP定制标记应用，提供了在现有JSP页面之内实现快速内存缓冲的功能。虽然已经有一些供应商在提供各种形式的缓存产品，但是，它们都属于面向特定供应商的产品。OSCache能够在任何JSP 1.1兼容的服务器上运行，它不仅能够为所有用户缓冲现有JSP代码块，而且能够以用户为单位进行缓冲。OSCache还包含一些提高可伸缩性的高级特性，比如：缓冲到磁盘，可编程的缓冲刷新，异常控制，等等。另外，正如OpenSymphony的其他产品，OSCache的代码也在一个开放源代码许可协议之下免费发行。

　　本文以一个假想的拍卖网站设计过程为例，介绍OSCache的工作过程。这个假想的Web网站将包含：一个报告最近拍卖活动的管理页面；一个功能完整、带有各种宣传信息的主页；一个特殊的导航条，它包含了用户所有尚未成交的拍卖活动信息。

　　二、管理页面

　　拍卖网站包含一个管理报表，数据库服务器需要数秒时间才能创建这样一个报表。报表生成时间长这一点很重要，因为我们可能让多个管理员监视系统运行情况，同时又想避免管理员每次访问时都重新生成这个报表。为了实现这一点，我们将把整个页面封装到一个应用级的缓冲标记之内，这个缓冲标记每隔1小时刷新。其他供应商提供的一些产品也具有类似的功能，只是OSCache比它们做得更好。

　　为简单计，我们将不过多地关注格式问题。在编写管理页面时，我们首先把标记库声明加入到页面：

　　＜%@ taglib uri="cachetags" prefix="cache" %＞

　　接下来我们要用cache标记来包围整个页面。cache标记的默认缓冲时间是1小时。

　　＜cache:cache＞ .... 复杂的管理报表 .... ＜/cache:cache＞

　　现在管理页面已经被缓冲。如果管理员在页面生成后的一个小时之内再次访问同一页面，他看到的将是以前缓存的页面，不需要由数据库服务器再次生成这个报表。

　　三、主页

　　拍卖网站的主页显示网站活动情况，宣传那些即将结束的拍卖活动。我们希望显示出正在进行的拍卖活动数量，当前登录用户数量，在短期内就要结束的拍卖活动的清单，以及当前时间。这些信息有着不同的时间精确度要求。网站上的拍卖活动通常持续数天，因此我们可以把缓冲有效拍卖活动数量的时间定为6个小时。用户数量的变化显然要频繁一些，但这里我们将把这个数值每次缓冲15分钟。最后，我们希望页面中显示的当前时间总是精确的页面访问时间。

　　在主页中声明标记库之后，我们首先以不带缓冲的方式直接输出当前日期：

　　现在是：

　　＜%=new java.util.Date()%＞

　　接下来，我们要显示一个清单，列出那些将在短期内结束的拍卖活动：

　　＜cache:cache＞ ＜ul＞ ＜% // 构造一个包含最近拍卖活动的Iterator Iterator auctions = .... while (auctions.hasMore()) { Auction auction = (Auction)auctions.next(); %＞＜li＞＜%=auction%＞＜/li%＜ } %＞ ＜/ul＞ ＜/cache:cache＞

　　最后，我们希望显示出正在进行的拍卖活动的数量，这个数字需要缓冲6小时。由于cache标记需要的是缓冲数据的秒数，我们把6小时转换成21600秒：

　　＜cache:cache time="21600"＞ ＜% //查询数据库得到拍卖活动总数 int auctionCount = .... %＞ 本网站正在进行的拍卖活动有＜%=auctionCount%＞个! ＜/cache＞

　　可以看到，我们只用少量的代码就构造出了一个带有复杂缓冲系统的主页。这个缓冲系统对页面各个部分分别进行缓冲，而且各个部分的缓冲时间完全符合它们各自的信息变化频繁程度。由于有了缓冲，现在我们可以在主页中放入更多的内容；而在以前没有缓冲的情况下，主页中放入过多的内容会导致页面访问速度变慢，甚至可能给数据库服务器带来过重的负载。

　　四、导航条

　　假设在规划网站的时候，我们决定在左边导航条的下方显示购物车内容。我们将显示出用户所拍卖的每一种商品的出价次数和当前报价，以及所有那些当前用户出价最高的商品的清单。

　　我们利用会话级的缓冲能力在导航条中构造上述功能。把下面的代码放入模板或者包含文件，以便网站中的其他页面引用这个导航条：

　　＜cache:cache key="navbar" scope="session" time="300"＞ ＜% //提取并显示当前的出价信息 %＞ ＜/cache:cache＞

　　在这里我们引入了两个重要的属性，即key和scope。在本文前面的代码中，由于cache标记能够自动为代码块创建唯一的key，所以我们不需要手工设置这个key属性。但在这里，我们想要从网站的其余部分引用这个被缓冲的代码块，因此我们显式定义了该cache标记的key属性。第二，scope属性用来告诉cache标记当前代码块必须以用户为单位缓冲，而不是为所有用户缓冲一次。

　　在使用会话级缓冲时应该非常小心，应该清楚：虽然我们可以让复杂的导航条减少5倍或10倍的服务器负载，但它将极大地增加每个会话所需要的内存空间。在CPU能力方面增加可能的并发用户数量无疑很理想，但是，一旦在内存支持能力方面让并发用户数量降低到了CPU的限制之下，这个方案就不再理想。

　　正如本文前面所提到的，我们希望从网站的其余部分引用这个缓冲的代码块。这是因为，当一个用户增加了一个供拍卖的商品、或者出价竞购其他用户拍卖的商品时，我们希望刷新缓冲，使得导航条下一次被读取时具有最新的内容。虽然这些数据可能因为其他用户的活动而改变，但如果用户在网站上执行某个动作之后看到自己的清单仍未改变，他可能会感到非常困惑。

　　OSCache库提供的flush标记能够刷新缓冲内容。我们可以把下面的代码加入到处理用户动作且可能影响这一区域的页面之中：

　　＜cache:flush key="navbar" scope="session" /＞

　　当用户下次访问它时，navbar缓冲块将被刷新。

　　至此为止，我们这个示例网站的构造工作已经完成且可以开始运行。下面我们来看看OSCache的异常处理能力。即使缓冲的内容已经作废，比如在缓冲块内出现了Java异常，OSCache标记库仍旧允许我们用编程的方法显示这些内容。有了这种异常控制功能，我们可以拆除数据库服务器和Web服务器之间的连接，而网站仍能够继续运行。JSP 1.2规范引入了TryCatchFinally接口，这个接口允许标记本身检测和处理Java异常。因此，标记可以结合这种异常处理代码，使得JSP页面更简单、更富有条理。

　　OpenSymphony正在计划实现其他的缓冲机制以及一个可管理性更好的主系统，它将使我们能够对缓冲使用的RAM和磁盘空间进行管理。一旦有了这些功能，我们就能够进一步提高网站的响应速度和可靠性。

　　[结束语]

　　OSCache能够帮助我们构造出更丰富多彩、具有更高性能的网站。有了OSCache标记库的帮助，现在我们能够用它解决一些影响网站响应能力的问题，比如访问量高峰期、数据库服务器负荷过重等。